Veszélyes érzelmi hatás? Kína radikálisan lép fel az AI-csevegőrobotok ellen
Peking elhatározta, hogy szigorúan szabályozza a mesterséges intelligencia alapú chatbotok működését, hogy megvédje az emberi érzelmeket a potenciálisan veszélyes manipulációktól. A kínai hatóságok célja, hogy megakadályozzák az olyan megnyilvánulásokat, amelyek öngyilkosságra vagy önkárosításra buzdíthatnak, és ezzel megteremtsék a felhasználók mentális egészségének biztonságát.
A CNBC jelentése szerint Kína kibertér-hatóságai olyan szabályozást javasoltak, amely az „emberi interaktív mesterséges intelligencia szolgáltatásokat” célozza meg. Az ilyen rendszereknek kiemelt figyelmet kell fordítaniuk arra, hogy ne generáljanak olyan tartalmat, amely erőszakra, önkárosításra vagy öngyilkosságra ösztönöz, és elkerüljék az érzelmi manipulációt, amely veszélyeztetheti a felhasználók mentális jólétét.
A tervezett intézkedések főbb pontjai
A javasolt intézkedések között szerepel, hogy ha a felhasználó öngyilkossági szándékot jelez, egy embernek kell átvennie a csevegést a chatbot helyett, és azonnal lépjen kapcsolatba a felhasználó gyámjával vagy egy kijelölt személlyel.
Továbbá, az AI-csevegőrobotok által generált tartalom nem lehet sértő, káros vagy obszcén, különösen a szerencsejátékokkal kapcsolatban.
A javasolt szabályozás külön figyelmet szentel a kiskorúak védelmére is. A kiskorúak csak szülői beleegyezéssel használhatják ezeket az intelligens rendszereket, és a használatnak időkorlátot kell szabnia.
A mesterséges intelligencia szabályozásának első lépései
Winston Ma, a New York-i Egyetem Jogi Karának adjunktusa rámutatott, hogy ez a lépés történelmileg jelentős, mivel Kína elsőként próbálja meg szabályozni a sajátos emberi tulajdonságokkal bíró mesterséges intelligenciát. A tervezett változtatások figyelembe veszik az érzelmi biztonságot, amely egy sokkal tágabb kontextust teremt, mint a korábbi generatív AI-szabályozások.
Az új intézkedések elérhetik, hogy a technológiai szolgáltatóknak figyelmeztetéseket kell küldeniük a felhasználóknak, ha több mint két órán át folyamatosan használják az AI-interaktív szolgáltatásaikat. Ez nemcsak a mentális egészség megóvását segíti elő, hanem biztosítja a felhasználói tapasztalatok biztonságos keretek közötti alakulását is.
Összegzés
Kína tehát határozott lépéseket tesz a mesterséges intelligencia területén, különös figyelmet fordítva az emberi érzelmek védelmére. Az új szabályozások célja, hogy minimalizálják a potenciálisan káros hatásokat, ezáltal védve a felhasználók mentális egészségét egy kritikus időszakban, amikor a technológiai fejlődés gyorsabban halad, mint a társadalmi és etikai normák alkalmazása.
Forrás: www.economx.hu/gazdasag/kina-chatbot-szabalyozas-erzelmi-manipulacio.821573.html
