"Számos kihívással nézünk szembe. Az emberek a mesterséges intelligencia (AI) miatt elveszíthetik munkájukat, fennáll a jövedelmi egyenlőtlenség elmélyülésének, a magánélet korlátozásának a kockázata, és természetesen különböző célokra visszaélhetők vele. A választások befolyásolása téma az Egyesült Államokban "- mondta. Az igazságért Oren Etzioni, az Allen Mesterséges Intelligencia Intézet igazgatója John Allen a Microsoft társalapítója volt, Etzioni 2013 óta dolgozik az intézetnél, és a GLOBSEC konferencián készítettek interjút vele.

mesterséges

Ön azt javasolta, hogy a mesterséges intelligenciával dolgozó embereknek etikai esküt kell tenniük. Miért?

A hatalmi központok társadalmunkban változnak. Ennek tanúi voltunk az elmúlt tíz, húsz évben. És főleg most. A politikusoknak és az újságíróknak mindig volt némi hatalmuk, csakúgy, mint az ügyvédeknek és az orvosoknak. De most a hatalommal rendelkező emberek új osztálya alakul ki. Ők alkotják az algoritmusokat, a szoftverrendszereket és a mesterséges intelligenciát. Amikor rájövünk, hogy ezek az emberek nagyobb hatalommal bírnak a társadalomban, azt kell, hogy etikusan viselkedjenek. Nincs egy válasz arra, hogyan lehet ezt elérni. De az orvosok etikai megközelítésének nagyszerű szimbóluma a hippokratészi eskü. Lényegében ezzel az ígérettel elkötelezik magukat, hogy képességeiket jó, nem pedig rossz cselekedetére használják. Állítom, hogy a mesterséges intelligenciával dolgozó embereknek valami hasonlóval kell rendelkezniük. Ezért hoztam létre nekik az eskü szövegét.

Hogyan reagáltak?

Kissé meglepődtem. Azt hittem, örömmel fogadják. Ez egyszerű dolog. Nincs sok olyan dolog az életben, amiért nem kell fizetni, nincs kalóriájuk és nem okoznak rákot. Ezért gondoltam, hogy mindenki imádni fogja az esküt. A valóság azonban más volt. Volt, akinek nem tetszett, hogy csak a mesterséges intelligenciáról van szó. Azt mondták, talán mindenkinek kell, aki számítógéppel kapcsolatos dolgokat kezel. Mások azzal érveltek, hogy az egyik szót itt, a másikat meg kell változtatni, az esküm helytelen. Mondom nekik, hogy ne próbálják meg harapni az ujjamat, hanem nézzék meg, merre mutatok. Csalódott voltam.

Elmondható, hogy a társadalomban aggályok merülnek fel a mesterséges intelligencia felhasználásának módjával kapcsolatban. Sokan valószínűleg örömmel fogadnák azokat, akik hatékony eszközökkel dolgoznak, hogy valamilyen irányítást gyakorolhassanak maguk felett. Lehet, hogy meg kell győznie a nyilvánosságot arról, hogy esküje jó ötlet.

Igen. Hát, köszönöm. Egyetértek veled. Megpróbáltam rábeszélni néhány embert, hogy tegyék le az esküt. Egyetemi hallgatók és professzoraik. De nagyon vonakodtak. Lehet, hogy ebben segíthet.

Mi a legnagyobb veszélye a mesterséges intelligenciával való visszaélésnek?

Számos kihívással nézünk szembe. Az emberek elveszíthetik az állásukat, elmélyíthetik a jövedelmi egyenlőtlenségeket, korlátozhatják a magánéletet, és természetesen a mesterséges intelligencia különböző célokra visszaélhető. A bűnözők a számítógépes bűnözéssel képesek befolyásolni a választásokat, ami az Egyesült Államokban aktuális téma.

Hogyan befolyásolhatja a mesterséges intelligencia a választásokat?

Sokkal kifinomultabb támadások lehetőségét rejti magában. Az emberek tudják, hogyan kell nagyon naivnak lenni, de el kell mondanunk, hogy eljutottunk egy olyan ponthoz, ahol nagyon nehéz megmondani, hogy valamilyen tartalmat ember vagy mesterséges intelligencia hozott létre. Láthatja, hogy Barack Obama volt elnök olyanokat mond, amiket soha nem mondott. Sajnos szembe kell néznünk vele.

Mit lehet vele kezdeni?

Megerősíthetjük a tartalom hitelesítését, hogy tudjuk, ki a tartalom valódi szerzője. Értesíteni, hogy az Igazságból vagy a New York Timesból származik. Az Allen Intézetben eszközöket hozunk létre a csalások jobb felderítésére. Emlékeztet azonban a hadseregek közötti fegyverkezési versenyre. Csalók és azok között, akik leleplezni akarják őket.

Amikor megemlíti a fegyverkezési versenyt, bizonyosan felhasználhatom a mesterséges intelligenciát közvetlenül a hadseregben.

Vlagyimir Putyin orosz elnök azt mondta, hogy aki mesterséges intelligenciát sajátít el, az uralni fogja a világot. Nincs egyetlen AI. Használata azonban minden bizonnyal előnyöket jelenthet egy ország számára katonai, gazdasági, tudományos és kutatási szempontból. A mesterséges intelligencia vezetői az USA és Kína. És ez bizony kihívást jelent Oroszország számára. Remélem, hogy az összes résztvevő megközelítése erőfeszítéseket jelent a közös munkára, nem pedig az ellenségességre. Véleményem szerint Oroszország hibát követett el 2016-ban, amikor megpróbálta befolyásolni az amerikai elnökválasztást. A rövid távú előnyöket részesítette előnyben a hosszabb távú előnyök helyett. Felébresztette az Egyesült Államok antagonizmusát Oroszországgal szemben. Ennek negatív következményei lehetnek mindkét ország számára.

Nyugaton, főleg Európában gyakran hallani, hogy a technológiai területen menekülünk a vonat elől, hogy Kína a fő mozgatórugó. Tényleg az?

Kicsit bonyolultabb. Pillanatnyilag nem mondható el egyértelműen, de talán három-négy év múlva jobban meg fogjuk tudni.

Hogyan fog megnyilvánulni? Honnan tudjuk meg, hogy ki a technológiai vezető?

Hatalmas katonai, gazdasági és technológiai következményei lesznek. Ez kihat a hétköznapokra, de a katonai rendszerek működésére is. Még nem látjuk, de egy idő után rájövünk.

Amikor visszatérek az esküjéhez, mit nem tehetnek az AI-t létrehozó emberek?

A mesterséges intelligencia rendszerek ellenőrzésének a kezükben kell maradniuk. Nagyon intelligens dolgot hozhat létre. Mondjuk egy rendkívül intelligens fegyverrendszer. De annak eldöntése, hogy megölnek-e valakit, más embereknél marad. Ide tartozik például az, hogy valakinek börtönbe kell-e kerülnie, és ehhez hasonló dolgok.

Így lesz?

Ez a mi döntésünk.

Az emberek nem akarják a felelősséget a gépekre hárítani?

© SZERZŐI JOG FENNTARTVA

A napi Pravda és internetes verziójának célja, hogy naprakész híreket jelenítsen meg Önnek. Ahhoz, hogy folyamatosan és még jobban dolgozhassunk Önnek, szükségünk van a támogatására is. Köszönjük bármilyen pénzügyi hozzájárulását.