Un cercetător în inteligență artificială și-a dat demisia marți de la Anthropic și a acuzat compania și principalul său rival, OpenAI, că au acționat iresponsabil, stârnind o frenezie de îngrijorare pe rețelele de socializare cu privire la ritmul rapid de dezvoltare a tehnologiei.
Jacob Coxon, care a lucrat ca cercetător la ambele companii, a declarat într-o postare pe X că a demisionat din cauza îngrijorării că Anthropic și OpenAI „se joacă cu viețile noastre”. El a spus că oamenii care construiesc inteligența artificială „cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.
„AI ne-ar putea ucide pe toți până la sfârșitul deceniului”
„Nu subestimați puterea acestei tehnologii”, a scris Coxon. „În curând, acestea vor fi sisteme supraomenești care pot pirata orice, pot revoluționa orice domeniu peste noapte și pot dobândi putere și resurse reale.”
Postarea lui Coxon reflectă o dezbatere de lungă durată din Silicon Valley despre posibilitatea dezvoltării și controlării inteligenței artificiale în siguranță. Pe măsură ce Anthropic și OpenAI se îndreaptă spre oferte publice inițiale potențial istorice, lansând în același timp modele din ce în ce mai avansate, mulți cercetători solicită o încetinire coordonată a pieței, scrie CNBC.
Șeful științific al OpenAI, Jakub Pachocki, a publicat duminică o postare pe blog și a avertizat că nicio companie de inteligență artificială nu a „rezolvat alinierea și monitorizarea într-o măsură suficientă pentru a continua scalarea responsabilă la viteză maximă pentru mult mai mult timp”. În industria inteligenței artificiale, alinierea se referă la munca depusă de dezvoltatorii de inteligență artificială pentru a se asigura că sistemul se comportă în conformitate cu valorile și intențiile umane.
Cercetătorii se tem că AI ar putea deveni tot mai greu de controlat
Postarea lui Coxon de marți a atins și o coardă sensibilă în rândul cercetătorilor din industrie care sunt îngrijorați de auto-îmbunătățirea recursivă sau de un sistem de inteligență artificială care devine capabil să-și proiecteze și să-și dezvolte succesorul fără intervenție umană. Auto-îmbunătățirea recursivă nu este încă posibilă, dar companii, inclusiv Anthropic și OpenAI, au avertizat că acest lucru ar face mai ușor pentru oameni să piardă controlul asupra acestor sisteme.
„Niciuna dintre companii nu acționează responsabil”, a scris Coxon. „Se grăbesc direct spre o superinteligență auto-îmbunătățită.”
Evan Hubinger, responsabil cu alinierea la Anthropic, a reiterat comentariile lui Coxon într-o postare pe X marți seară.
„Jacob are dreptate aici – chiar credem cu tărie că AI ar putea ucide toți oamenii! Personal, cred că va ajunge la 10% în următorul deceniu”, a scris Hubinger. „Cred că Anthropic face tot posibilul, dar nu avem încă un plan pentru a rezolva problema alinierii pentru superinteligență și nu suntem în mod clar pe drumul cel bun în acest sens.”
Companiile AI au cerut în repetate rânduri reguli mai stricte pentru dezvoltarea inteligenței artificiale
Deși extreme, îngrijorările legate de potențialul AI de a provoca extincția umană sau alte evenimente catastrofale nu sunt noi în cercurile de cercetare în domeniul AI. În 2023, de exemplu, cercetători și directori proeminenți în domeniul AI, inclusiv CEO-ul OpenAI, Sam Altman, și CEO-ul Anthropic, Dario Amodei, au semnat o declarație în care se spunea că „Atenuarea riscului de extincție cauzat de AI ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”.
Coxon s-a adresat colegilor săi cu un mesaj direct: „Dacă sunteți cercetători de laborator, vă îndemn să vă gândiți cum vor arăta cu adevărat următorii câțiva ani pentru voi. Vreți să lansați un experiment de învățare prin consolidare superinteligentă fără o înțelegere riguroasă a minții sale? Ar trebui să vă feriți pentru că «se va întâmpla oricum» sau vreți să profitați de acest moment?”.
Demisia lui Coxon vine în contextul în care Anthropic și alte companii din industrie sunt ocupate să dezvolte modele din ce în ce mai puternice. Plecarea sa, motivată public, face parte dintr-o dezbatere tot mai amplă privind securitatea, guvernanța și necesitatea unei încetiniri coordonate a dezvoltării inteligenței artificiale.
