A mesterséges intelligencia egyik úttörője nagy port kavart azzal, ahogy távozott a Googletől.. Geoffrey Hinton, akit a „mesterséges intelligencia keresztapjának” becéznek, a The New York Timesnak elmondta, hogy áprilisban lemondott a Google alelnöki és mérnöki posztjáról, hogy szabadon figyelmeztethesse a társadalmat az AI technológi fejlődésével kapcsolatos kockázatokra. A kutató aggódik amiatt, hogy a Google feladja a korábbi visszafogottságát a nyilvános AI-kiadásokkal kapcsolatban, hogy a ChatGPT, a Bing Chat és hasonló modellekkel versenyre keljen. Ha pedig a cél szentesíti az eszközt, akkor e folyamat során több morális probléma is felmerülhet.

Hinton rövid távon attól tart, hogy a generatív mesterséges intelligencia egyre gyakoribb félretájékoztatáshoz vezethet. Elképzelhető, hogy "már nem lehet majd tudni, mi az igazság" - mondja. Aggódik amiatt is, hogy ez nem csak a "fáradságos munkát" szüntetheti meg, hanem egyenesen helyettesíthet bizonyos munkaköröket. A jövőre nézve a tudós aggályait fejezte ki mind a teljesen autonóm fegyverek lehetősége miatt, mind pedig amiatt, hogy az AI-modellek hajlamosak furcsa viselkedést tanulni a képzési adatokból. Bár e problémák egy része elméleti jellegű, Hinton attól tart, hogy az eszkalálódást nem lehet szabályozások vagy hatékony ellenőrzések kidolgozása nélkül megfékezni.

Hinton szerint álláspontja tavaly kezdett változni, amikor a Google, az OpenAI és más vállalatok olyan mesterséges intelligencia rendszereket kezdtek el létrehozni, amelyek szerinte esetenként felülmúlják az emberi intelligenciát. A kutató szerint a mesterséges intelligencia csak az elmúlt öt évben rohamosan fejlődött és elmondása szerint "ijesztő", hogy mi történhet a következő öt évben.

Az Engadgetnek adott nyilatkozatában Jeff Dean, a Google vezető kutatója azt mondja, hogy cége továbbra is elkötelezett a "felelős megközelítés" mellett, és résen van a "felmerülő kockázatokkal" kapcsolatosan. A keresőóriás nemrég, márciusban adta ki Bard chatbotjának egy durva változatát, miután hónapok óta pletykáltak arról, hogy a vállalat aggódik a generatív mesterséges intelligencia jelentette versenyfenyegetés miatt. Ezt megelőzően nem volt hajlandó nyilvánosan kiadni az olyan AI-modelleket - mint a művészetorientált Imagen - a mérgező tartalmak és a szerzői jogok megsértésének lehetősége miatt.

Hinton a karrierjét a mesterséges intelligencia szempontjából gyakran kulcsfontosságú neurális hálózatok tanulmányozásának szentelte, de leginkább egy tárgyfelismerő rendszer 2012-es kifejlesztéséről ismert. Áttörést jelentő neurális hálózata a gyakorló képek segítségével segíthetett felismerni a hétköznapi tárgyakat. A Google 2013-ban megvásárolta Hinton DNNresearch nevű startupját, és találmányának alapkoncepciója elősegítette azt a fejlesztési hullámot, amely a mai generatív technológiák megalkotásához vezetett.

Hinton nincs egyedül. Számos befolyásos akadémikus és technológiai szakember, köztük Elon Musk és Steve Wozniak nemrégiben nyílt levelet írt alá, amelyben a mesterséges intelligencia fejlesztésének hat hónapos szüneteltetését követelik az etikai és biztonsági problémák kezelése érdekében. Az iparág egyik legjelentősebb alakjaként azonban Hinton szavának jelentős súlya van.

(Engadget)