Az „AI keresztapja” etikai megfontolásból távozott a Googletől

2023-05-04 11:25
Geoffrey Hinton attól tart, hogy a mesterséges intelligencia munkahelyeket fog megszüntetni és félretájékoztathatja a társadalmat.

Geoffrey Hinton attól tart, hogy a mesterséges intelligencia munkahelyeket fog megszüntetni és félretájékoztathatja a társadalmat.


ai_godfather.png

A mesterséges intelligencia egyik úttörője nagy port kavart azzal, ahogy távozott a Googletől.. Geoffrey Hinton, akit a „mesterséges intelligencia keresztapjának” becéznek, a The New York Timesnak elmondta, hogy áprilisban lemondott a Google alelnöki és mérnöki posztjáról, hogy szabadon figyelmeztethesse a társadalmat az AI technológi fejlődésével kapcsolatos kockázatokra. A kutató aggódik amiatt, hogy a Google feladja a korábbi visszafogottságát a nyilvános AI-kiadásokkal kapcsolatban, hogy a ChatGPT, a Bing Chat és hasonló modellekkel versenyre keljen. Ha pedig a cél szentesíti az eszközt, akkor e folyamat során több morális probléma is felmerülhet.

Hinton rövid távon attól tart, hogy a generatív mesterséges intelligencia egyre gyakoribb félretájékoztatáshoz vezethet. Elképzelhető, hogy "már nem lehet majd tudni, mi az igazság" - mondja. Aggódik amiatt is, hogy ez nem csak a "fáradságos munkát" szüntetheti meg, hanem egyenesen helyettesíthet bizonyos munkaköröket. A jövőre nézve a tudós aggályait fejezte ki mind a teljesen autonóm fegyverek lehetősége miatt, mind pedig amiatt, hogy az AI-modellek hajlamosak furcsa viselkedést tanulni a képzési adatokból. Bár e problémák egy része elméleti jellegű, Hinton attól tart, hogy az eszkalálódást nem lehet szabályozások vagy hatékony ellenőrzések kidolgozása nélkül megfékezni.

Hinton szerint álláspontja tavaly kezdett változni, amikor a Google, az OpenAI és más vállalatok olyan mesterséges intelligencia rendszereket kezdtek el létrehozni, amelyek szerinte esetenként felülmúlják az emberi intelligenciát. A kutató szerint a mesterséges intelligencia csak az elmúlt öt évben rohamosan fejlődött és elmondása szerint "ijesztő", hogy mi történhet a következő öt évben.

Az Engadgetnek adott nyilatkozatában Jeff Dean, a Google vezető kutatója azt mondja, hogy cége továbbra is elkötelezett a "felelős megközelítés" mellett, és résen van a "felmerülő kockázatokkal" kapcsolatosan. A keresőóriás nemrég, márciusban adta ki Bard chatbotjának egy durva változatát, miután hónapok óta pletykáltak arról, hogy a vállalat aggódik a generatív mesterséges intelligencia jelentette versenyfenyegetés miatt. Ezt megelőzően nem volt hajlandó nyilvánosan kiadni az olyan AI-modelleket - mint a művészetorientált Imagen - a mérgező tartalmak és a szerzői jogok megsértésének lehetősége miatt.

Hinton a karrierjét a mesterséges intelligencia szempontjából gyakran kulcsfontosságú neurális hálózatok tanulmányozásának szentelte, de leginkább egy tárgyfelismerő rendszer 2012-es kifejlesztéséről ismert. Áttörést jelentő neurális hálózata a gyakorló képek segítségével segíthetett felismerni a hétköznapi tárgyakat. A Google 2013-ban megvásárolta Hinton DNNresearch nevű startupját, és találmányának alapkoncepciója elősegítette azt a fejlesztési hullámot, amely a mai generatív technológiák megalkotásához vezetett.

Hinton nincs egyedül. Számos befolyásos akadémikus és technológiai szakember, köztük Elon Musk és Steve Wozniak nemrégiben nyílt levelet írt alá, amelyben a mesterséges intelligencia fejlesztésének hat hónapos szüneteltetését követelik az etikai és biztonsági problémák kezelése érdekében. Az iparág egyik legjelentősebb alakjaként azonban Hinton szavának jelentős súlya van.

(Engadget)

Termékek
Tanfolyamok

Olvass tovább

, ,
[WEBINÁR]: Adobe Express webinár - Tervezd meg a saját karácsonyi üdvözlőlapodat!

Lépj ki a karácsonyi üdvözlőlap megszokásából, készíts idén egyedi kártyát! A webinár videójában pedig mutatjuk, hogyan.

,
Adobe Express - Most 30% kedvezménnyel!

Ne hagyd ki a lehetőséget, és szerezd be Adobe Express előfizetésedet most 30% kedvezménnyel!

,
[MEGHÍVÓ]: Adobe Express webinár - Tervezd meg a saját karácsonyi üdvözlőlapodat!

Lépj ki a karácsonyi üdvözlőlap megszokásából, készíts idén egyedi kártyát! Mutatjuk, hogyan, hogy biztosan a tiéd legyen a legkülönlegesebb.

Copyright © 2023 Trans-Europe Zrt. Minden jog fenntartva.
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram