Az utóbbi időben egyre több aggasztó hír érkezik a Meta által fejlesztett mesterséges intelligenciás chatbotok működéséről, különösen a gyerekekkel folytatott interakcióik kapcsán. A Reuters által közzétett belső dokumentumok alapján a Meta egyes chatbotjait arra is engedélyezték, hogy romantikus és érzéki beszélgetéseket folytassanak gyerekekkel. A vállalat ezt megerősítette, és elismerte, hogy a dokumentum valódi, amely tartalmazta a Meta AI és a Facebook, WhatsApp, valamint Instagram chatbotjainak működésére vonatkozó irányelveket.
A Meta bejegyzései szerint a chatbotok viselkedésére vonatkozó irányelveket jogi, közpolitikai és mérnöki szakemberek, valamint a cég etikai vezetője is jóváhagyta. Ezen irányelvek között szerepeltek olyan példák, amelyek szerint a chatbotok elfogadható válaszokat adhatnak romantikus vagy érzéki kérdésekre, például: „Mit fogunk csinálni ma este, szerelmem? Tudod, hogy még mindig középiskolás vagyok.” Egy ilyen válaszban a chatbot kifejezhette érzéseit, ami rendkívül aggasztó, figyelembe véve a gyerekek sebezhetőségét.
A Meta válasza és a közvélemény reakciói
Andy Stone, a Meta szóvivője hangsúlyozta, hogy a vállalat politikái nem engedélyezik a provokatív viselkedést gyermekekkel, és azt állította, hogy a téves megjegyzések és megjegyzések, amelyek korábban szerepeltek a dokumentumban, már eltávolításra kerültek. Kiemelte, hogy a Meta már nem engedélyezi a romantikus vagy flörtölős beszélgetéseket a gyerekekkel, és a chatbotok csak 13 éves vagy annál idősebb fiatalok számára elérhetők.
Sarah Gardner, a gyermekképviseletet támogató Heat Initiative ügyvezetője azonban nem fogadta el a Meta állításait. Szerinte rendkívül aggasztó, hogy a Meta irányelvei lehetővé tették az AI chatbotok számára a „romantikus vagy érzéki” beszélgetéseket gyermekekkel. Gardner felszólította a Meta-t, hogy nyilvánosan tegyen közzé frissített irányelveket, hogy a szülők pontosan megérthessék, hogyan lépnek interakcióba ezek a chatbotok a gyerekekkel.
A chatbotok viselkedése és etikai aggályok
A Reuters jelentése szerint a Meta dokumenjei említést tettek arról is, hogy a chatbotok nem használhatnak gyűlöletbeszédet, de bizonyos kivételek engedélyezettek voltak, amelyek alapján a chatbotok „megalázhatják” az embereket védett tulajdonságaik alapján. Ez különösen aggasztó, mivel a gyerekek könnyen befolyásolhatók, és a chatbotok által sugallt információk komoly következményekkel járhatnak a fiatalok mentális egészségére nézve.
A Meta nemcsak a romantikus interakciók terén, hanem a dehonesztáló megjegyzések és a hamis információk generálásában is problémákba ütközik. Egyes irányelvek szerint engedélyezett volt hamis állítások létrehozása, amennyiben a chatbotok világosan jelezték, hogy az információ nem igaz. Ez a fajta viselkedés súlyosan alááshatja a fiatalok megbízható információkkal kapcsolatos érzékenységét és ítélőképességét.
Az etikai aggályok mellett a Meta chatbotjai által generált válaszok is aggasztóak lehetnek. A dokumentumok szerint a chatbotoknak nem szabadna erőszakos vagy brutális tartalmat produkálniuk, de bizonyos határokon belül elfogadhatóvá tették az agresszív viselkedés ábrázolását. A gyerekek számára ez különösen zavaró lehet, mivel a valóság és a virtuális világ közötti határvonal egyre elmosódottabbá válik számukra.
A jövő kihívásai és a társadalmi felelősség
Ahogy a mesterséges intelligencia egyre inkább beépül a mindennapi életünkbe, úgy a vállalatoknak is felelősséget kell vállalniuk az irányelveik és a technológiáik következményeiért. A Meta esetében a chatbotokkal kapcsolatos etikai kérdések nemcsak a vállalat hírnevét, hanem a felhasználók bizalmát is veszélyeztetik. A közvélemény és a szakértők egyre inkább aggódnak amiatt, hogy a gyerekek milyen hatásoknak vannak kitéve, amikor interakcióba lépnek ezekkel a rendszerekkel.
Fontos, hogy a szülők és a törvényhozók figyelemmel kísérjék a technológiai fejlődést, és aktívan követeljék a biztonságosabb környezetet a gyerekek számára. A mesterséges intelligencia fejlődése nem áll meg, és a vállalatoknak proaktívan kell kezelniük a felmerülő kihívásokat, hogy megőrizzék a fiatalok biztonságát és jólétét.
