Apel de a stopa experimentele asupra Inteligenței Artificiale (A) într-o scrisoare deschisă semnată de nume notorii din domeniul tehnologiilor de vârf precum Elon Musk, Yoshua Bengio, Steve Wozniak și alții (vezi originalul aici)

Sistemele AI contemporane devin acum competitive pentru oameni la sarcini generale și trebuie să ne întrebăm: Ar trebui să lăsăm mașinile să ne inunde canalele de informații cu propagandă și neadevăr? Ar trebui să automatizăm toate sarcinile, inclusiv pe cele îndeplinite? Ar trebui să dezvoltăm minți non-umane care, în cele din urmă, ar putea să ne depășească numeric, să ne depășească și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre?

Sistemele AI puternice ar trebui dezvoltate numai după ce suntem încrezători că efectele lor vor fi pozitive și că riscurile vor fi gestionate. Această încredere trebuie să fie bine justificată și să crească odată cu amploarea efectelor potențiale ale unui sistem. Declarația recentă a OpenAI cu privire la inteligența generală artificială afirmă că „La un moment dat, poate fi important să obținem o revizuire independentă înainte de a începe să antrenăm sisteme viitoare și pentru cele mai avansate eforturi de a conveni să se limiteze rata de creștere a calculatoarelor utilizate pentru crearea de noi sisteme și modele. Suntem de acord că acest moment este acum.

Prin urmare, solicităm tuturor laboratoarelor de inteligență artificială să întrerupă imediat, timp de cel puțin 6 luni, instruirea sistemelor de inteligență artificială mai puternice decât GPT-4. Această pauză ar trebui să fie publică și verificabilă și să includă toți actorii cheie. Dacă o astfel de pauză nu poate fi adoptată rapid, guvernele ar trebui să intervină și să instituie un moratoriu.

Laboratoarele de AI și experții independenți ar trebui să folosească această pauză pentru a dezvolta și implementa în comun un set de protocoale de siguranță partajate pentru proiectarea și dezvoltarea avansată a AI, care sunt auditate și supravegheate riguros de experți externi independenți. Aceste protocoale ar trebui să asigure că sistemele care aderă la acestea sunt sigure dincolo de orice îndoială rezonabilă. Acest lucru nu înseamnă o pauză în dezvoltarea AI în general, ci doar un pas înapoi de la cursa periculoasă spre modele din ce în ce mai mari, imprevizibile, cu capacități emergente.

Cercetarea și dezvoltarea AI ar trebui să se reorienteze pentru a face sistemele puternice și de ultimă generație de astăzi mai precise, sigure, interpretabile, transparente, robuste, aliniate, demne de încredere și loiale.

În paralel, dezvoltatorii de inteligență artificială trebuie să lucreze cu factorii de decizie pentru a accelera dramatic dezvoltarea unor sisteme robuste de guvernare a inteligenței artificiale. Acestea ar trebui să includă cel puțin: autorități de reglementare noi și capabile dedicate AI; supravegherea și urmărirea sistemelor AI de înaltă capacitate și a unor grupuri mari de capacități de calcul; sisteme de proveniență și de filigranare pentru a ajuta la distingerea reală de cea sintetică și pentru a urmări scurgerile de model; un ecosistem robust de auditare și certificare; răspunderea pentru prejudiciul cauzat de AI; finanțare publică solidă pentru cercetarea tehnică a siguranței AI; și instituții bine dotate pentru a face față perturbărilor economice și politice dramatice (în special ale democrației) pe care le va provoca AI.

Omenirea se poate bucura de un viitor înfloritor cu AI. După ce am reușit să creăm sisteme AI puternice, acum ne putem bucura de o „vară AI” în care culegem roadele, proiectăm aceste sisteme pentru beneficiul clar al tuturor și oferim societății șansa de a se adapta. Omenirea a mai oprit alte tehnologii cu efecte potențial catastrofale asupra societății. Putem face asta și acum. Să ne bucurăm de o vară lungă cu AI, să nu ne grăbim nepregătiți într-o toamnă.

Printre semnatarii scrisorii s-au regăsit:

• Yoshua Bengio, fondator și director științific la Mila, câștigător al Premiului Turing și profesor la Universitatea din Montreal
• Stuart Russell, Berkeley, profesor de informatică, director al Centrului pentru sisteme inteligente și coautor al manualului standard „Inteligenta artificială: o abordare modernă”
• Elon Musk, CEO al SpaceX, Tesla și Twitter
• Steve Wozniak, co-fondator, Apple
• Yuval Noah Harari, autor și profesor, Universitatea Ebraică din Ierusalim.
• Andrew Yang, Forward Party, co-președinte, candidat prezidențial 2020, autor de bestselleruri NYT, ambasador prezidențial al antreprenoriatului global
• Connor Leahy, CEO, Conjecture
• Jaan Tallinn, co-fondator al Skype, Centrul pentru Studiul Riscului Existențial, Institutul Viitorul Vieții
• Evan Sharp, co-fondator, Pinterest
• Chris Larsen, co-fondator, Ripple
• Emad Mostaque, CEO, Stability AI
• Valerie Pisano, Președinte și CEO, MILA
• John J Hopfield, Universitatea Princeton, profesor emerit, inventator al rețelelor neuronale asociative
• Rachel Bronson, președinte, Buletinul Oamenilor de Știință Atomiști
• Max Tegmark, Centrul MIT pentru Inteligență Artificială și Interacțiuni Fundamentale, profesor de fizică, președinte al Institutului Future of Life
• Anthony Aguirre, Universitatea din California, Santa Cruz, director executiv al Institutului Future of Life, profesor de fizică
• Victoria Krakovna, DeepMind, cercetător, co-fondator al Institutului Future of Life
• Emilia Javorsky, medic-om de știință și director, Institutul Viitorul Vieții
• Sean O’Heigeartaigh, director executiv, Centrul Cambridge pentru Studiul Riscului Existențial
• Tristan Harris, director executiv, Center for Humane Technology
• Marc Rotenberg, Centrul pentru AI și Politică Digitală, Președinte
• Nico Miailhe, The Future Society (TFS), fondator și președinte
• Zachary Kenton, DeepMind, cercetător principal
• Ramana Kumar, DeepMind, cercetător
• și alții