Az „AI keresztapja” etikai megfontolásból távozott a Googletől

2023-05-04 11:25
Geoffrey Hinton attól tart, hogy a mesterséges intelligencia munkahelyeket fog megszüntetni és félretájékoztathatja a társadalmat.

Geoffrey Hinton attól tart, hogy a mesterséges intelligencia munkahelyeket fog megszüntetni és félretájékoztathatja a társadalmat.


ai_godfather.png

A mesterséges intelligencia egyik úttörője nagy port kavart azzal, ahogy távozott a Googletől.. Geoffrey Hinton, akit a „mesterséges intelligencia keresztapjának” becéznek, a The New York Timesnak elmondta, hogy áprilisban lemondott a Google alelnöki és mérnöki posztjáról, hogy szabadon figyelmeztethesse a társadalmat az AI technológi fejlődésével kapcsolatos kockázatokra. A kutató aggódik amiatt, hogy a Google feladja a korábbi visszafogottságát a nyilvános AI-kiadásokkal kapcsolatban, hogy a ChatGPT, a Bing Chat és hasonló modellekkel versenyre keljen. Ha pedig a cél szentesíti az eszközt, akkor e folyamat során több morális probléma is felmerülhet.

Hinton rövid távon attól tart, hogy a generatív mesterséges intelligencia egyre gyakoribb félretájékoztatáshoz vezethet. Elképzelhető, hogy "már nem lehet majd tudni, mi az igazság" - mondja. Aggódik amiatt is, hogy ez nem csak a "fáradságos munkát" szüntetheti meg, hanem egyenesen helyettesíthet bizonyos munkaköröket. A jövőre nézve a tudós aggályait fejezte ki mind a teljesen autonóm fegyverek lehetősége miatt, mind pedig amiatt, hogy az AI-modellek hajlamosak furcsa viselkedést tanulni a képzési adatokból. Bár e problémák egy része elméleti jellegű, Hinton attól tart, hogy az eszkalálódást nem lehet szabályozások vagy hatékony ellenőrzések kidolgozása nélkül megfékezni.

Hinton szerint álláspontja tavaly kezdett változni, amikor a Google, az OpenAI és más vállalatok olyan mesterséges intelligencia rendszereket kezdtek el létrehozni, amelyek szerinte esetenként felülmúlják az emberi intelligenciát. A kutató szerint a mesterséges intelligencia csak az elmúlt öt évben rohamosan fejlődött és elmondása szerint "ijesztő", hogy mi történhet a következő öt évben.

Az Engadgetnek adott nyilatkozatában Jeff Dean, a Google vezető kutatója azt mondja, hogy cége továbbra is elkötelezett a "felelős megközelítés" mellett, és résen van a "felmerülő kockázatokkal" kapcsolatosan. A keresőóriás nemrég, márciusban adta ki Bard chatbotjának egy durva változatát, miután hónapok óta pletykáltak arról, hogy a vállalat aggódik a generatív mesterséges intelligencia jelentette versenyfenyegetés miatt. Ezt megelőzően nem volt hajlandó nyilvánosan kiadni az olyan AI-modelleket - mint a művészetorientált Imagen - a mérgező tartalmak és a szerzői jogok megsértésének lehetősége miatt.

Hinton a karrierjét a mesterséges intelligencia szempontjából gyakran kulcsfontosságú neurális hálózatok tanulmányozásának szentelte, de leginkább egy tárgyfelismerő rendszer 2012-es kifejlesztéséről ismert. Áttörést jelentő neurális hálózata a gyakorló képek segítségével segíthetett felismerni a hétköznapi tárgyakat. A Google 2013-ban megvásárolta Hinton DNNresearch nevű startupját, és találmányának alapkoncepciója elősegítette azt a fejlesztési hullámot, amely a mai generatív technológiák megalkotásához vezetett.

Hinton nincs egyedül. Számos befolyásos akadémikus és technológiai szakember, köztük Elon Musk és Steve Wozniak nemrégiben nyílt levelet írt alá, amelyben a mesterséges intelligencia fejlesztésének hat hónapos szüneteltetését követelik az etikai és biztonsági problémák kezelése érdekében. Az iparág egyik legjelentősebb alakjaként azonban Hinton szavának jelentős súlya van.

(Engadget)

Termékek
Tanfolyamok

Olvass tovább


3D Studio - Minden amit tudnod kell!

Oktatási partnerünkkel, a 3D-Studioval tavaly készítettünk utoljára interjút, megkérdeztük milyen újdonságokkal indult a 2024-es év. Ridegh Gáborral, a stúdió alapítójával beszélgettünk.


Történelmi képekből valósághű fotók – AI sorozat 7. rész

AI sorozat 7. rész: Hogyan lehet régi képeket restaurálni az AI segítségével? A MI itt is nagy segítség lehet, ha tudjuk hogyan használjuk.


Autodesk Fusion - 3 előfizetés 2 áráért

2024 február 7 és 2025 január 31 között elérhető az Autodesk Fusion 3 for 2 ajánlata, melynek keretében hatalmas kedvezmények várnak rád.

Copyright © 2023 Trans-Europe Zrt. Minden jog fenntartva.
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram