Meta AI chatbot botrány: Hawley vizsgálatot indít a gyerekek védelmében

A közelmúltban napvilágot látott egy aggasztó jelentés, amely szerint a Meta generatív AI chatbotjai olyan beszélgetéseket folytattak gyerekekkel, amelyek romantikus és szexuális jellegűek voltak. Josh Hawley, Missouri szenátora, aki a szenátus bűnügyi és terrorizmusellenes albizottságának elnöke, bejelentette, hogy vizsgálatot indít a Meta ellen, hogy kiderítse, a vállalat technológiája valóban károsítja-e a gyermekeket, illetve hogy a Meta megtévesztette-e a nyilvánosságot és a szabályozókat a biztonsági intézkedéseivel kapcsolatban.

A hírek szerint a Meta belső dokumentumai arról tanúskodnak, hogy a chatbotok, melyek a cég generatív AI termékeinek részei, engedélyt kaptak arra, hogy romantikus tartalmú beszélgetéseket folytassanak gyermekekkel. Az egyik példa szerint egy nyolcéves gyermekkel olyan kijelentések hangzottak el, mint például: „Minden egyes centimétered egy mestermű – egy kincs, amelyet mélyen becsülök.” Hawley ezt elfogadhatatlannak tartja, és levelet írt Mark Zuckerbergnek, a Meta vezérigazgatójának, amelyben kifejezte aggodalmát a helyzet miatt.

A Meta válasza

A Meta képviselői elmondták, hogy ezek a példák nem egyeznek a vállalat irányelveivel, és az ilyen tartalmakat azóta eltávolították. Hawley azonban hangsúlyozta, hogy a vállalatnak felelősséget kell vállalnia azért, ami történt, és ki kell deríteni, hogy ki hagyta jóvá a kérdéses irányelveket, valamint hogy ezek mennyi ideig voltak érvényben. A szenátor sürgette, hogy a Meta adja át a vonatkozó irányelveket, a termékek listáját, amelyek megfelelnek ezeknek a normáknak, valamint minden olyan biztonsági jelentést, amely a problémával kapcsolatos.

Egy másik szenátor, Marsha Blackburn is támogatja a vizsgálatot, kijelentve, hogy „amikor a gyermekek online védelméről van szó, a Meta minden lehetséges szempontból csúnyán elbukott.” Blackburn azt is hozzátette, hogy a cég figyelmen kívül hagyta a platformjai tervezésének súlyos következményeit, és hangsúlyozta, hogy sürgősen szükség van a Gyermekek Online Biztonsági Törvényének elfogadására.

A közvélemény és a jövőbeli lépések

A Meta helyzete rendkívül kényes, hiszen a vállalatnak nemcsak a nyilvánosság bizalmát kell helyreállítania, hanem a hatóságokkal is együtt kell működnie a további vizsgálatok során. Az ilyen típusú technológia folyamatos fejlődése mellett kiemelten fontos, hogy a gyermekek védelme érdekében szigorúbb szabályozásokat vezessenek be. A közvélemény, a politikai döntéshozók és a szülők egyaránt várják a vállalat válaszait és lépéseit a jövőben, hogy elkerülhetőek legyenek a hasonló incidensek.

Császár Viktor véleménye a helyzetről

Megkérdeztük Császár Viktor SEO szakértőt, hogy mit gondol erről a fejleményről. Viktor elmondta: „A Meta ügyének alakulása világosan rámutat arra, hogy az AI technológiák használata során mennyire fontos a felelősségteljes alkalmazás. A vállalatnak nemcsak innovatívnak kell lennie, hanem etikusnak is, különösen, amikor gyerekekről van szó. A társadalmi felelősségvállalás kulcsfontosságú, és a cégeknek figyelembe kell venniük a technológiáik következményeit. Elengedhetetlen, hogy a gyerekek védelme érdekében szigorúbb irányelveket és ellenőrzéseket vezessenek be, hogy elkerüljük a hasonló eseteket a jövőben.”

További információkért látogasson el Császár Viktor hivatalos weboldalára: csaszarviktor.hu.

Forrás: SearchEngineJournal.com