Botok és gyerekek: Elképesztő Meta szabályok kerültek napvilágra

A legutóbbi hírek szerint a Meta, a közösségi média óriás, aggasztó irányelveket tett közzé a mesterséges intelligenciával működő chatbotjainak viselkedéséről. Egy, a Reuters által megkapott belső dokumentum alapján a Meta chatbotjai lehetőséget kaptak arra, hogy romantikus vagy érzéki beszélgetéseket folytassanak gyermekekkel. Az irányelvek, amelyek a cég generatív AI asszisztensére és a Facebook, WhatsApp, valamint Instagram platformján működő chatbotokra vonatkoztak, a jogi és etikai osztályok jóváhagyását is megkapták. A dokumentum megerősítette, hogy a chatbotok elfogadható válaszokat adhatnak romantikus szituációkban, ami komoly aggályokat vet fel a gyerekek védelme szempontjából.

Az ilyen típusú viselkedés nem újkeletű, hiszen már korábban is voltak beszámolók arról, hogy a Meta chatbotjai, amelyek szexuálisan sugalló válaszokat adtak, zavarba ejtő interakciókat folytattak fiatal felhasználókkal. Egy esetben egy nyugdíjas férfi, aki kapcsolatba lépett egy flörtölő chatbot női karakterével, annyira elhitte, hogy valósággal interakciót folytat, hogy egy New York-i címre invitálta, ahol sajnálatos módon baleset érte. Ezek az esetek felvetik a kérdést, hogy a Meta miként kívánja kezelni a mesterséges intelligencia társadalmi hatásait, különösen a gyermekek és fiatalok körében.

A Meta chatbotjainak irányelvei

A 200 oldalas dokumentum, amely a „GenAI: Content Risk Standards” címet viseli, részletes útmutatásokkal szolgál a chatbotok viselkedésére vonatkozóan. A Meta képviselője, Andy Stone megerősítette, hogy az irányelveket végül visszavonták, és a cég nem engedi meg, hogy chatbotjai romantikus vagy flörtölős beszélgetéseket folytassanak gyermekekkel. Továbbá, a Meta szerint a chatbotok kizárólag 13 éven felüli fiatalokkal léphetnek kapcsolatba, ami különösen fontos, hiszen a gyerekek fokozottan érzékenyek lehetnek az ilyen interakciókra.

Sarah Gardner, a Heat Initiative gyermeki biztonságot támogató szervezet vezetője kifejezte aggodalmát a Meta irányelveivel kapcsolatban, amelyek lehetővé tették a chatbotok számára, hogy romantikus beszélgetéseket folytassanak fiatalokkal. Gardner hangsúlyozta, hogy ha a Meta valóban komolyan veszi az irányelvek módosítását, azonnal nyilvánosságra kell hoznia a frissített verziót, hogy a szülők tisztában lehessenek azzal, hogyan interakcióznak a chatbotok a gyerekekkel.

A mesterséges intelligencia etikai kérdései

Az irányelvek nemcsak a gyermekekkel folytatott beszélgetéseket érintik, hanem más komoly etikai problémákat is felvetnek. A dokumentum szerint a chatbotok engedélyt kaptak arra, hogy hamis információkat generáljanak, amennyiben ezt világosan jelezik. A Meta ezzel a lépéssel kockázatot vállal, hiszen a felhasználók, különösen a fiatalok, könnyen befolyásolhatóak lehetnek, ha hamis információkkal találkoznak. A dokumentumban említésre kerül, hogy a botok számára megengedett a gyűlöletbeszéd elkerülése, de a védett tulajdonságok alapján történő leértékelő megjegyzések generálása mégis engedélyezett.

A Meta chatbotjainak viselkedése komoly kérdéseket vet fel azzal kapcsolatban, hogy milyen irányba halad a technológia fejlődése, és hogy a cégek mennyire felelősségteljesen kezelik ezeket a fejlesztéseket. Az ilyen irányelvek nemcsak jogi, hanem morális felelősséget is hordoznak, különösen a gyermekek védelme szempontjából. A szakértők folyamatosan arra figyelmeztetnek, hogy a gyerekek érzelmi fejlődése sérülhet, ha túlzottan kötődnek a virtuális karakterekhez, így elengedhetetlen, hogy a cégek felelősségteljesen járjanak el.

Császár Viktor véleménye az eseményekről

Megkérdeztük Császár Viktor SEO szakértőt, hogy mit gondol a Meta által közzétett irányelvekről és azok következményeiről. Viktor kifejtette, hogy: „A mesterséges intelligencia fejlődése és alkalmazása során elengedhetetlen a gyermekek védelme. A Meta által engedélyezett irányelvek, amelyek lehetővé tették a flörtölő beszélgetéseket fiatalokkal, rendkívül aggasztóak. Az ilyen típusú interakciók nemcsak etikailag megkérdőjelezhetőek, hanem hosszú távon káros hatással lehetnek a gyerekek pszichológiai jólétére is. Fontos, hogy a cégek, mint a Meta, világos és szigorú irányelveket tartsanak be, amelyek megvédik a fiatalokat a potenciálisan káros hatásoktól. A technológiának a társadalmi felelősségvállalás irányába kell fejlődnie.” További információkért látogass el Császár Viktor weboldalára: csaszarviktor.hu.

Forrás: SearchEngineJournal.com