INTELIGENŢA ARTIFICIALĂ: HALUCINAŢII PE BANDĂ RULANTĂ

„Halucinațiile” Inteligenței Artificiale (IA) sunt elefantul din încăpere: toată lumea îl vede, aproape nimeni (cu excepția utilizatorilor) nu vorbește despre asta. Iar când, totuși, cineva spune ceva, subiectul este repede scos din atenția publicului. Că doar nu se face să murdărim nobilele idealuri ale IA-ului (pe bune acum).

„Da, există!” – doar că nu are legătură!

Problema centrală este diferența dintre un răspuns care sună adevărat și un adevăr verificat. Ce se întâmplă, de fapt? Fapt este că IA, marele oracol digital despre care creatorii săi pretind că știe totul despre tot, inventează bibliografii cu aceeași eleganță cu care un elev de gimnaziu inventează scuze pentru a nu-și face temele. De asemenea, prezintă citate din opere care nu există, falsuri drept adevăruri și multe altele în aceeași paradigmă. Urmarea: se transformă într-un generator profesionist de ficțiune științifică. Și ce să mai spunem despre acele linkuri care duc către articole reale, dar care nu au absolut nici o legătură cu subiectul, sincer, este de-a dreptul poetic. Un fel de „Da, există! Dar este vorba despre altceva, multă baftă să găsiți legătura!” Și chiar n-o putem blama: IA pare perfectă, prezentându-ne ficțiuni pe post de fapte reale și verificate, pe deasupra! Un talent aparte, pe care oamenii îl cunosc sub numele de „minciună”. Și încă unul pe care IA îl perfecționează încontinuu; în curând, până și politicienii vor trebui să învețe de la IA cum să ne mintă mai bine. De unde întrebarea: putem afirma că IA a reușit în sfârșit să copieze mintea umană?

Când IA nu doar greșește, ci delirează

IA nu este proastă; problema este că poate fi genială în a produce răspunsuri fără să înțeleagă adevărul lor. Aceasta este, de fapt, critica cea mai greu de contestat. Inteligența Artificială „halucinează” din cauza unui defect de construcție: este concepută să răspundă la solicitarea noastră în modul cel mai potrivit după logica matematică. Adică IA alege ceea ce pare exact/adevărat și ceea ce este menționat cel mai des în baza sa de date, în raport cu obiectul solicitării noastre. Și când nu găsește exact ceea ce are nevoie, IA ia ceea ce i se pare cel mai potrivit sau cel mai probabil, chiar dacă asta nu are nici o legătură cu subiectul. Mai mult, în baza sa de date se găsesc numeroase informații incorecte, inexacte, false sau care au înțelesuri diferite, în funcție de contextul în care sunt utilizate. Un om ar ști, în general, să se descurce în haosul ăsta, bazându-se pe cunoștințele sale, pe experiența sa de viață, pe logică, emoții, deducție, intuiție. Nu este cazul IA, care ia drept adevărat ceea ce pare a fi sau ceea ce este desemnat ca atare și ne prezintă informațiile în consecință. Și asta fără niciun fel de judecată critică. La fel, dacă un citat este atribuit unei anumite opere, IA nu va verifica dacă acesta este exact sau dacă opera respectivă există cu adevărat; va crede pur și simplu, naiv, că este adevărat. În concluzie, așa ajunge IA să inventeze diverse, să fabuleze, să „halucineze”. Să recapitulăm: IA nu știe să distingă ceea ce este adevărat de ceea ce este fals, când acest lucru nu este clar indicat. Ea nu este capabilă nici să înțeleagă și să se descurce cu nuanțele și subtilitățile. Deci, este „idioată”.

După „halucinații”? Ședința de urgență!

Problema IA nu este doar că poate greși, ci că poate greși într-un mod extrem de convingător. Arhitectura lucrării este impecabilă. Căci IA este „antrenată” să aibă autoritate, să creeze impresia că ceea ce face și ce spune este perfect și că reprezintă Adevărul absolut. În consecință, probabil că, în curând, vom vedea companii ținând ședințe de criză, pentru că IA le-a recomandat să cumpere un produs inexistent. Iar cum IA a fost atât de convingătoare, totul s-a planificat la detaliu: buget, implementare, instruirea personalului etc. După care s-a descoperit adevărul. De unde și întrebarea legitimă a directorului general: „Ce să facem când IA greșește atât de spectaculos?”. Răspuns scurt (și cinic): Publicați un articol redactat de IA care devine viral și pe urmă descoperiți că jumătate din bibliografie este un basm. O invenție cap-coadă.

Nu credeți IA pe cuvânt!

Din păcate (sau din fericire), astfel de investiții sunt foarte costisitoare și dificil de scalat, iar companiile trebuie să aleagă între viteză, cost și acuratețe. Înainte de toate, nu vă așteptați de la companiile IA să o rezolve. Nu o vor face. Ar trebui să investească enorm în drepturi de autor pentru a avea acces la o informație de calitate și (aproape) sigură. De asemenea, în angajați calificați care să trieze, să aranjeze corespunzător și să verifice încontinuu informațiile din bazele de date cu care lucrează IA. Iar companiile IA nu au bani pentru așa ceva. Și atunci, calea cea mai sigură este ca fiecare utilizator să verifice lucrarea dată de IA, singur sau prin intermediul unui terț specializat (presupunând că vor apărea servicii de acest fel). Extras din articolul “IA: inteligență artificială sau idioțenie artificială”.

Sumarul nostru:

1. „Halucinațiile” IA sunt elefantul din încăpere: toată lumea îl vede, aproape nimeni (cu excepția utilizatorilor) nu vorbește despre asta.

2. Problema centrală a IA este diferența dintre un răspuns care sună adevărat și un adevăr verificat.

3. IA nu este proastă; problema este că poate fi genială în a produce răspunsuri fără să înțeleagă adevărul lor. Aceasta este, de fapt, critica cea mai greu de contestat.

4. Problema IA nu este doar că poate greși, ci că poate greși într-un mod extrem de convingător.

5. Din păcate (sau din fericire), astfel de investiții sunt foarte costisitoare și dificil de scalat, iar companiile trebuie să aleagă între viteză, cost și acuratețe.