Az Anthropic, az egyik élvonalbeli mesterséges intelligencia-fejlesztő cég, bejelentette az Anthropic Intézet megalapítását, amelynek célja, hogy választ adjon a rendkívül erős AI rendszerek által felvetett társadalmi és gazdasági kérdésekre. Az új intézmény egyedülálló helyzetből, az AI fejlesztésének legfrissebb kutatási eredményeire alapozva kíván segíteni a társadalmi alkalmazkodásban és a kockázatok kezelésében.
Az AI fejlődése és a gyorsuló változás
Az elmúlt öt évben az Anthropic olyan AI modelleket fejlesztett, amelyek képesek komoly biztonsági problémák felismerésére, valós munkafeladatok ellátására, sőt, az AI fejlesztés ütemének felgyorsítására is. A cég vezetői úgy látják, hogy az AI fejlődése nem lineáris, hanem egyre gyorsuló ütemben zajlik, így a rendkívül fejlett, erős mesterséges intelligenciák megjelenése hamarabb bekövetkezhet, mint azt sokan gondolják.
Ez a gyors változás számos fontos kérdést vet fel: hogyan alakítja át a munka világát és a gazdaságot az AI? Milyen új lehetőségeket és veszélyeket hordoz? Hogyan határozzuk meg az AI rendszerek “értékrendjét”, és ki dönti el, hogy ezek az értékek megfelelnek-e a társadalmi normáknak? Mi történik, ha az AI önfejlesztővé válik, és miként szabályozzuk ezt a folyamatot? Ezekre a komplex problémákra keresi a válaszokat az Anthropic Intézet.
Az Anthropic Intézet szerepe és felépítése
Az intézet interdiszciplináris csapatot hozott létre, amelyben gépi tanulási szakemberek, közgazdászok és társadalomtudósok dolgoznak együtt. Az eddigi kutatócsoportok – a Frontier Red Team, amely az AI rendszerek határait teszteli, a Societal Impacts, amely a társadalmi használatot vizsgálja, valamint az Economic Research, amely a gazdasági hatásokat elemzi – most egyesülnek az Anthropic Intézet égisze alatt. Az intézet új csapatokat is indít, többek között az AI fejlődésének előrejelzésére és a jogi rendszerrel való kapcsolatok jobb megértésére fókuszálva.
Az intézet vezetője Jack Clark, az Anthropic társalapítója, aki egyben a cég Public Benefit (közhasznú célokért felelős) vezetője is. A kutatók között olyan neves szakemberek találhatók, mint Matt Botvinick, aki a mesterséges intelligencia és jog kapcsolatát vizsgálja, Anton Korinek, aki az AI gazdasági hatásait elemzi, valamint Zoë Hitzig, aki az AI modellfejlesztés és a társadalmi-gazdasági hatások közti összefüggéseket kutatja.
Az Anthropic Intézet nem csak egyirányú információközlésre törekszik, hanem aktívan bevonja azokat a dolgozókat és közösségeket is, akik az AI változásai miatt bizonytalanságban élnek. Ez a kölcsönös párbeszéd segíti, hogy az intézet kutatásai és az Anthropic cég döntései minél jobban igazodjanak a valós társadalmi igényekhez.
Politikai és szabályozási törekvések
Az intézet létrehozásával párhuzamosan az Anthropic bővíti Public Policy csapatát is, amely olyan területekre fókuszál, mint az AI modellek biztonsága, átláthatósága, az energiafogyasztás szabályozása, az infrastruktúra fejlesztése, exportkontroll és a demokratikus vezetés az AI területén. Sarah Heck vezeti ezt a részleget, aki korábban a Stripe-nál és a Fehér Ház Nemzetbiztonsági Tanácsánál dolgozott a vállalkozásfejlesztés és közpolitika területén.
Az intézet és a Public Policy csapat a washingtoni irodanyitással és a globális jelenlét növelésével kívánja erősíteni szerepét az AI szabályozásában, elősegítve a felelős és átlátható mesterséges intelligencia fejlesztést és alkalmazást.
Az Anthropic Intézet munkájáról és céljairól bővebben is olvashatunk az Anthropic hivatalos bejelentésében, amely részletesen bemutatja az intézet felépítését, vezetőit és kutatási irányait.
