Analize

Care este cel mai rău scenariu posibil?

5 minute necesare pentru a citi articolul

Arhitecții inteligenței artificiale avertizează că aceasta ar putea provoca „dispariția” oamenilor. Cum s-ar putea întâmpla acest lucru? Publicația The Week a realizat un sumar al problemelor și temerilor ridicate de inteligența artificială, pe care le prezentăm mai jos.

De ce se tem experții în inteligență artificială?

Aceștia se tem că IA va deveni atât de inteligentă și puternică încât va deveni autonomă și va provoca perturbări sociale în masă sau chiar eradicarea rasei umane. Mai mult de 350 de cercetători și ingineri în domeniul IA au emis recent un avertisment potrivit căruia IA prezintă riscuri comparabile cu cele ale „pandemiilor și ale războiului nuclear”. Într-un sondaj realizat în 2022 în rândul experților în inteligență artificială, șansele mediane pe care aceștia le-au plasat pentru ca IA să provoace extincția sau „o dezangajare severă a speciei umane” au fost de 1 la 10. „Nu este vorba de science fiction”, a declarat Geoffrey Hinton, numit adesea „nașul inteligenței artificiale”, care a părăsit recent Google pentru a putea lansa un avertisment cu privire la riscurile IA. „O mulțime de oameni inteligenți ar trebui să depună multe eforturi pentru a afla cum să facem față posibilității ca IA să preia controlul.”

Când s-ar putea întâmpla acest lucru?

Hinton obișnuia să creadă că pericolul era la cel puțin 30 de ani distanță, dar spune că IA evoluează într-o superinteligență atât de rapid încât ar putea fi mai inteligentă decât oamenii în doar cinci ani. ChatGPT cu inteligență artificială și Chatbot-ul de la Bing pot deja să treacă examenele de barou și de licență medicală, inclusiv secțiunile de eseuri, iar la testele de IQ obțin scoruri de 99 de procente – nivel de geniu. Hinton și alți pesimiști se tem de momentul în care „inteligența generală artificială”, sau AGI, va putea depăși oamenii în aproape orice sarcină. Unii experți în inteligență artificială compară această eventualitate cu sosirea bruscă pe planeta noastră a unei rase extraterestre superioare. Nu ai „nicio idee despre ce vor face când vor ajunge aici, cu excepția faptului că vor cuceri lumea”, a declarat specialistul în informatică Stuart Russell, un alt cercetător de pionierat în domeniul IA.

În ce fel ne-ar putea face rău inteligența artificială?

Un scenariu este acela că actorii răuvoitori îi vor folosi puterile pentru a crea noi arme biologice mai letale decât pandemiile naturale. Pe măsură ce inteligența artificială devine din ce în ce mai integrată în sistemele care conduc lumea, teroriștii sau dictatorii ar putea folosi inteligența artificială pentru a opri piețele financiare, rețelele electrice și alte infrastructuri vitale, cum ar fi rezervele de apă. Economia globală s-ar putea opri. Liderii autoritari ar putea folosi propaganda foarte realistă generată de inteligența artificială și Deep Fakes pentru a declanșa un război civil sau un război nuclear între națiuni. În unele scenarii, IA însăși ar putea deveni răuvoitoare și ar putea decide să se elibereze de sub controlul creatorilor săi. Pentru a scăpa de oameni, IA ar putea păcăli liderii unei națiuni, făcându-i să creadă că inamicul a lansat rachete nucleare, astfel încât aceștia să le lanseze pe ale lor. Unii spun că AI ar putea proiecta și crea mașini sau organisme biologice precum Terminator din seria de filme pentru a-și pune în aplicare instrucțiunile în lumea reală. Este, de asemenea, posibil ca AI să elimine oamenii fără răutate, deoarece urmărește alte obiective.

Cum ar funcționa asta?

Creatorii de inteligență artificială nu înțeleg pe deplin modul în care programele ajung la determinările lor, iar o inteligență artificială căreia i s-a încredințat un obiectiv ar putea încerca să îl atingă în moduri imprevizibile și distructive. Un scenariu teoretic citat adesea pentru a ilustra acest concept este cel al unei IA căreia i se cere să producă cât mai multe agrafe de hârtie. Aceasta ar putea direcționa practic toate resursele umane către fabricarea de agrafe de hârtie, iar atunci când oamenii încearcă să intervină pentru a o opri, IA ar putea decide că eliminarea oamenilor este necesară pentru a-și atinge obiectivul. Un scenariu mult mai plauzibil în lumea reală este acela că o IA însărcinată cu rezolvarea problemei schimbărilor climatice decide că cea mai rapidă modalitate de a opri emisiile de carbon este să elimine omenirea. „Face exact ceea ce ai vrut să facă, dar nu în modul în care ai vrut tu”, a explicat Tom Chivers, autorul unei cărți despre amenințarea IA.

Sunt aceste scenarii exagerate?

Unii experți în inteligență artificială sunt foarte sceptici că IA ar putea provoca o apocalipsă. Aceștia spun că abilitatea noastră de a valorifica IA va evolua odată cu IA și că ideea că algoritmii și mașinile vor dezvolta o voință proprie este o teamă exagerată, influențată de science-fiction, și nu o evaluare pragmatică a riscurilor tehnologiei. Însă cei care trag un semnal de alarmă susțin că este imposibil să se prevadă exact ce ar putea face sistemele de inteligență artificială mult mai sofisticate decât cele de astăzi și că este lipsit de viziune și imprudent să respingem cele mai grave scenarii.

Așadar, ce ar trebui să facem?

Aceasta este o chestiune care face obiectul unei dezbateri aprinse în rândul experților în inteligență artificială și al funcționarilor publici. Cei mai extremiști cer oprirea completă a cercetării în domeniul IA. Există apeluri pentru moratorii asupra dezvoltării sale, pentru o agenție guvernamentală care să reglementeze IA și pentru un organism internațional de reglementare. Capacitatea uluitoare a IA de a lega toate cunoștințele umane, de a percepe tipare și corelații și de a găsi soluții creative este foarte probabil să facă mult bine în lume, de la vindecarea bolilor la combaterea schimbărilor climatice. Dar crearea unei inteligențe mai mari decât a noastră ar putea duce, de asemenea, la rezultate mai întunecate. „Miza nu ar putea fi mai mare”, a spus Russell. „Cum poți menține puterea asupra unor entități mai puternice decât tine pentru totdeauna?”.

Temeri deja prevăzute de literatura SF

Teama de a vedea inteligența artificială învingând oamenii poate fi o preocupare nouă în lumea reală, dar este o temă de lungă durată în romane și filme. În „Frankenstein” din 1818, Mary Shelley a scris despre un om de știință care dă viață unei creaturi inteligente care în cele din urmă își distruge creatorul. În colecția de povestiri scurte „I, Robot”, scrisă de Isaac Asimov în 1950, oamenii trăiesc printre roboți sensibili, ghidați de trei legi ale roboticii, dintre care prima este aceea de a nu răni niciodată un om. Filmul „Odiseea spațială” din 1968 al lui Stanley Kubrick prezintă HAL, un supercomputer de pe o navă spațială care îi ucide pe astronauții care decid să îl deconecteze. Apoi, există franciza „Terminator” și al său Skynet, un sistem de apărare cu inteligență artificială care ajunge să vadă umanitatea ca pe o amenințare și încearcă să o distrugă printr-un atac nuclear. Stuart Russell, pionier în domeniul inteligenței artificiale, a declarat că a fost contactat de un regizor care dorea ajutorul său pentru a descrie modul în care un programator erou ar putea salva omenirea prin depășirea inteligenței artificiale. Nici un om nu ar putea fi atât de inteligent, i-a spus Russell. „Nu te pot ajuta cu asta, îmi pare rău”, a spus el.

Citeste articolul complet pe www.g4media.ro

Primeste ultimele noutati pe mail

O colectie de articole selectate de echipa noastra. O data pe zi. Te poti dezabona oricand.