A mesterséges intelligencia szakértője, Mária Bieliková: Nem a robotoktól félek, hanem az emberektől

A mesterséges intelligencia (AI) olyan gyakori része az életünknek, hogy megszoktuk, és gyakran észre sem vesszük, hogy itt van. Fordít szövegeket, navigál az autókban, tanácsokat ad nekünk az e-üzletekben, vagy segít a bankoknak eldönteni, kinek adnak hitelt…

Az AI azonban vitatott kérdéseket vet fel jövőbeli fejlődésével, alkalmazásával vagy a munkaerőpiacra gyakorolt ​​hatásával kapcsolatban is. Egyetemi tanár Mária Bieliková a Szlovák Mesterséges Intelligencia Kutatási Központ - Slovak.AI elnöke és az Európai Bizottság mesterséges intelligencia-szakértői csoportjának tagja.

Az E-tika című podcastban beszélgettünk vele, amely a digitális technológiák társadalmi hatásairól szól.

Többek között az interjúból megtudhatja:

  • mikor hagyhatjuk szabadon az AI-t és mikor kellene utána néznünk;
  • hogyan lehet Szlovákia releváns az AI világában;
  • mit tanuljon gyermeke, hogy a munkahelyén egyszer ne cseréljék ki őket robotokra;
  • milyen messze vagyunk az emberi mesterséges mesterséges intelligenciától és kell-e attól tartanunk.

Mi a mesterséges intelligencia állapota ma, és mi a helye a jövőben?

Ami a jövőt illeti, mindig jó a múltba tekinteni. Az emberek mindig létrehoztak olyan eszközöket, amelyek megkönnyítik a munkát. Számítógépeket is létrehoztak - számítógépeket -, és nagyon gyorsan megpróbálták azokat jobbá tenni és nehezebb feladatokat kezelni: okosabbnak lenni. 60 évvel ezelőtt így jött létre a mesterséges intelligencia.

Hatása a történelem folyamán ingadozott, de mindig kapcsolódott más technológiákhoz, ezért nem is érzékelem az AI-t a többi digitális technológiától külön.

Ma még a koszorúér-válság kapcsán is azt látjuk, hogy a digitalizálás hatalmas lehetőségeket kínál a különféle termékek és szolgáltatások számára, ahol mindig jó intelligensnek lenni. Minél jobban felhasználjuk a digitális kor eredményeit különböző feladatok megoldására, annál inkább haladunk előre a legkülönfélébb területeken.

Ily módon az informatika és a mesterséges intelligencia jelentősége továbbra is növekszik. Egyszer, és talán nagyon közel van, a mesterséges intelligencia összeolvad más technológiákkal, és nem is fogjuk konkrétan megnevezni. Ma is sok megoldásnál nehéz elkülöníteni a mesterséges intelligenciát a többitől.

Ezért úgy gondolom, hogy az AI nagyon nagy szerepet fog játszani, és rajtunk múlik, hogyan kezeljük.

A mesterséges intelligencia kifejezés alatt az emberek különböző dolgokat képzelnek el. Ezért megszokjuk, hogy az AI-vel kapcsolatos vitákat annak meghatározásával kezdjük. Ami a tiéd?

Ez a kérdés szinte fülbemászó. Először is a mesterséges intelligencia tudományos tudományág. Ezért helytelen őt megszemélyesíteni, és például élőlényről beszélni róla, hogy "ő" tesz vagy nem tesz velünk valamit. Semmit sem fog tenni magából.

Az a tény, hogy az AI meghatározása eltérõ, összefügg azzal a ténnyel is, hogy ezeknek a leírásoknak különbözõ célja van. Ezért például a Slovak.AI műhely anyagaiban, amelyek az AI szlovák vállalatokba történő bevezetésének támogatását szolgálják, tágan és egyszerűen úgy írják le, hogy az élettelen gépek képesek bizonyos fokú intelligenciát igénylő feladatok megoldására. Egy ilyen meghatározás természetesen egyáltalán nem lenne elegendő bármilyen szabály vagy jogszabály bevezetésekor.

Az AI definíciók többnyire a tulajdonságaira összpontosítanak. Az AI legalapvetőbb jellemzőjeként érzékelem a rendszer tanulási képességét, vagyis olyan váratlan helyzetekben is, amelyekre senki nem gondolt előre, megfelelően és elfogadhatóan viselkedni és az adott célt szolgálni.

Tehát például a gyep öntözésére szolgáló rendszer, amelyet hazánkban is "okos" jelzővel árusítanak, és ugyanakkor csak bizonyos időpontokban kezd öntözni, ha száraz, akkor nem tartaná "okosnak".

Ha negyven évvel ezelőtt rendelkeznénk egy ilyen rendszerrel, akkor ezt bizonyosan intelligensnek neveznénk. Néhány IF-THEN szabály elegendő lenne.

Ma általában megköveteljük, hogy bonyolultabb megítélés szerepeljen ezen a területen. De jó felismerni, hogy az AI meghatározása időben mozogni látszik, és néhány év múlva egy nagyon összetett öntözőrendszer - amely megjósolja az időjárást és kiváltja az öntözést, még akkor is, ha nem tennénk, míg a döntése kiderül: legyen meglepően helyes - lehet, hogy ez már olyan hétköznapi, hogy nem adunk neki külön melléknevet.

Ma az AI különböző szerepeket tölt be talán minden iparágban. Hol és mikor engedhetjük meg, hogy felügyelet nélkül cselekedhessen vagy döntsön?

Először is, hasonló probléma van, mint azzal a gyepszóróval: abban az értelemben, hogy nem világos, hogy az intelligens rendszer.

De ha egy kicsit túlzásba viszem, akkor azt mondom, hogy mindig és mindenhol részt kell venni benne. Elvileg semmi sem történhet az ő felügyelete nélkül. Ez természetesen a rendszer egy bizonyos szintjéről érvényes. Vannak olyan feladatok, amelyeket már elfogadunk. Ugyanakkor a bonyolultság miatt az ember nem is tud mindent irányítani.

Két dimenzióból ki lehet fejleszteni azt a határt, hogy hol hagyja többet a gépet, és hol kevesebb szabadságot. Az első az, hogy a mesterséges intelligencia-rendszer milyen messze van a fejlődésben, és mennyire összetett a feladat a maga szempontjából. Mivel ma egyes területeken a gép gyengébb, mint egy hároméves gyerek, máshol viszont éppen ellenkezőleg. Természetesen nagyobb szabadságot adnék neki olyan területeken, ahol jól áll.

A második nézet azzal a kockázati területtel kapcsolatos, ahol a feladat található. Vajon egy adott mesterséges intelligencia-rendszer kimenete befolyásolhatja-e valamelyik etikai alapelvünket, értékünket, vagy kárt okozhat-e valakiben? Ezért, ha a rendszer technikailag is jól működik, de fennáll annak a veszélye, hogy veszélyeztethet egy személyt vagy árthat Önnek, akkor ezt természetesen figyelembe kell venni.

Van valami, amit biztosan nem szeretne az AI rendszerek helyettünk tenni?

Több piros vonal van. Ez a terület a legjelentősebb az autonóm fegyverek területén, és örülök, hogy az Európai Bizottság mesterséges intelligencia-szakértői csoportunk ezt is kijelentette iránymutatásaiban.

Egyes filozófusok, akik ennek a csoportnak a tagjai, kifejezetten harcoltak azért, hogy ott legyen, ugyanakkor mások ellenezték, hogy egyáltalán megjelenjen egy vörös vonal, attól tartva, hogy a mesterséges intelligencia közvélemény ekkor félni fog.

Az én szemszögemből egy másik piros vonal, amelyről sokat beszélnek, az információ-manipuláció, amely bizonyos értelemben szintén fegyver. Olyan dolgokra gondolok, mint hamis hírek vagy a választások téves információval történő befolyásolása.

szakembere
N fénykép - Tomáš Benedikovič

A mesterséges intelligencia másik problémája a gyenge átláthatóság. Néha ezek a rendszerek annyira összetettek, hogy nem tudjuk megérteni, hogyan hoznak döntéseket. Ugyanakkor nagyon komoly területeken is használják őket; például valahol már eldöntik, hogy melyik beteget diagnosztizálják, vagy kinek a foglyát engedhetik el.

A mesterséges intelligencia átláthatósága hatalmas kérdés, amellyel már a kutatás kezdete óta tisztában vagyunk.

Abban az időben az AI algoritmusok közvetlenül a számunkra ismert tulajdonságokkal és kifejezetten kifejezett tudás alapján működtek, leggyakrabban szabályok formájában. Például egy olyan rendszer, amely állítólag diagnosztizálja a beteget, működött a testhőmérsékletével, a köhögésével stb. Kapcsolatos beviteli információkkal. Amikor később diagnózist ajánlott, kifejezetten írott ismeretek alapján tette ezt olyan szabályok formájában, amelyek ezeket a tüneteket a diagnózissal kapcsolták össze, és így meg lehetett tudni, miért és milyen alapon döntött így.

A probléma az, hogy az ilyen rendszerek csak nagyon szűk feladatcsoportot képesek megoldani. Ha új helyzeteket kellett hozzáadni, kivételek merültek fel, mindent bonyolultnak és gyakran manuálisan konfiguráltnak kellett lennie. Ezért a kutatók olyan rendszereket alakítottak ki, amelyek maguk a szabályok sok példa alapján automatikusan létrehoznak egy programot. Alternatív megoldásként, és ez ma már a valóság, a gép nemcsak szabályokat, hanem paramétereket is létrehozhat, amelyek alapján megoldást fog javasolni. Nos, minél többet adunk a számítógépnek több munkát, annál kevesebb esélyünk van a kimenetének tényleges ellenőrzésére.

Ez az áttérés az érthetőségről az érthetetlenségre a mesterséges intelligencia esetében szó szerint ugró volt. A tudásnak az emberi logikát követő módon történő írásán alapuló explicit megközelítés mély neurális hálózatokon alapuló tanulási szemléletté vált, ahol az eredmény nagyon kicsi, különböző módon összekapcsolt és értelmezhetetlen értékeken alapszik, amelyek létrehozzák az eredményt. Gyakran jó, de nagyon nehéz megmagyarázni.

Ma abban a helyzetben vagyunk, hogy irreális a mesterséges intelligencia algoritmusainak teljes átláthatóságát követelni annak érdekében, hogy a végfelhasználó megértse, miért tervezett egy AI rendszer ilyen megoldást. Tudom, hogy ez nem hangzik jól, de próbáljon meg megkérni egy emberi orvost, hogy magyarázza el teljes mértékben a döntését, amikor ez mondjuk részben az intuícióhoz vezethet. Az sem működik.

Jelenleg a mesterséges intelligencia gyenge átláthatóságának kezelése a legésszerűbb megközelítés, ha ezt a problémát több részre bontják. Az egyik rész az a törekvés, hogy dokumentálják a folyamatot, hogy az megismételhető legyen. A másodikban arra törekszünk, hogy a gép adott ajánlását maximálisan érthetővé tegyük, legalábbis a szakértők számára. Harmadrészt kommunikációról van szó, vagyis az embert tájékoztatni kell például arról, hogy a számítógép milyen műveleteket hajtott végre, mennyire sikeres, hogy aztán maga az illető tudjon megalapozott döntést hozni.

Ezek a témák valahol a műszaki és a humán tudományok határterületén vannak. Melyik oldalról jobb megközelíteni őket?

Tényleg a felületen vannak, és szívem szerint e két világot próbálom összekapcsolni. Manapság a technika nagyon népszerű, és úgy tűnhet, hogy a társadalomtudományok háttérbe szorulnak, ugyanakkor természetesen rendkívül fontosak.

Ezért jó, ha a technológiai cégek bölcsész végzettségű embereket alkalmaznak, különféle technológiával kapcsolatos platformokra, például mondjuk a Slovak.AI-ra társítják őket, hogy műszaki egyetemeken legyenek, és így mindenhova technikai csapatokhoz csatlakozzanak.

A technikusok másként tekintenek a dolgokra, és amikor a két világ keveredik, hirtelen rájönnek, hogy szükségük van egymásra.

Vannak vélemények, amelyek szerint a mesterséges intelligencia manapság csak nagyon szűk feladatokat képes megoldani. Egyszer sokféle alkalmazási területe lesz?

Szerintem a mesterséges intelligencia most