Stephen Hawking, unul dintre cei mai influenți fizicieni ai lumii, a formulat o serie de avertismente privind supraviețuirea civilizației, subliniind că viitorul omenirii depinde de gestionarea tehnologiilor emergente și de prevenirea dezastrelor globale. Predicțiile sale nu au fost prezentate ca certitudini științifice, ci ca scenarii de avertizare.
Una dintre principalele preocupări ale lui Stephen Hawking a fost dezvoltarea unei inteligențe artificiale capabile să depășească abilitățile umane. El s-a temut în special de sisteme extrem de eficiente care ar putea urmări obiective incompatibile cu interesele oamenilor, comparând riscul cu distrugerea accidentală a unui mușuroi de furnici în timpul construcției unei hidrocentrale, scrie Blic.
Inteligența artificială ar putea deveni mai puternică decât oamenii
Stephen Hawking avertiza și asupra dezvoltării armelor autonome, considerând necesară reglementarea tehnologiei înaintea declanșării unei curse a înarmării.
În ultimii ani ai vieții sale, prof. Hawking a atenționat deseori cu privire la amenințarea potențială reprezentată de Inteligența Artificială (IA).
Faimosul fizician a spus că IA are potențialul de a fi cel mai bun sau cel mai rău lucru pe care omenirea l-a făcut vreodată, iar realitatea înfricoșătoare este că noi nu știm încă.
„Nu putem ști dacă vom fi ajutați la infinit de IA sau ignorați și marginalizați de ea sau distruși de IA”, a spus el.
Deși IA ar putea fi extrem de benefică pentru reducerea sărăciei, a bolilor și a restaurării mediului natural, este imposibil să se prevadă „unde am putea ajunge atunci când gândirea noastră este amplificată de IA”.
„IA ar putea fi cea mai gravă invenție din istorie a civilizației noastre, care aduce pericole ca arme puternice autonome sau noi posibilități pentru ca cei puțini să-i poată oprima pe cei mulți.
„IA ar putea să-și dezvolte o voință proprie, o voință care este în conflict cu a noastră și care ne-ar putea distruge. Pe scurt, dezvoltarea puternică a IA va fi fie cel mai bun, fie cel mai rău lucru care se va întâmpla vreodată pentru omenire”.
Hawking a avertizat oamenii de știință și guvernele globale că trebuie să se concentreze asupra maximizării beneficiilor pentru societate, mai degrabă decât asupra capacității pure.
Oamenii modificați genetic ar putea forma o nouă elită
Unul dintre cele mai controversate scenarii formulate de Hawking privea apariția unor persoane ale căror capacități fizice și intelectuale ar putea fi îmbunătățite prin inginerie genetică. Tehnologii precum CRISPR, care permit modificarea precisă a materialului genetic, ar putea deschide posibilități medicale importante, dar și noi forme de inegalitate.
Hawking se temea că accesul inegal la asemenea intervenții ar putea produce o categorie de „supraoameni”, capabili să-și îmbunătățească permanent propriile caracteristici. Într-un asemenea scenariu, persoanele fără modificări genetice ar putea ajunge dezavantajate economic, social și politic. Nu există însă dovezi că o asemenea categorie de oameni ar urma inevitabil să apară.
