El potencial de la intel·ligència artificial (IA) per superar la intel·ligència humana ha estat objecte de debat durant molts anys, i avanços com ChatGPT només han intensificat aquestes discussions. El 2021, els científics van determinar que és gairebé segur que és impossible controlar una IA superintelligent, ja que això requeriria la creació d’una simulació comprensible, una tasca considerada inviable degut a la naturalesa complexa de la IA.
La preocupació s’estén més enllà de la incapacitat d’establir regles de ‘no fer mal’ per a la IA; el problema, com van destacar els investigadors, és la diferència fonamental entre l’ètica robòtica convencional i els reptes únics que planteja una superintelligència multifacètica, capaç de mobilitzar recursos diversos per assolir objectius potencialment incomprensibles.
Fent-se ressò del ‘problema de parada’ d’Alan Turing de 1936, l’equip va raonar que, tot i que és possible saber si programes específics arribaran a una conclusió o entraran en un bucle infinit, és lògicament impossible determinar això per a cada programa potencial. Per tant, una IA superintelligent, capaç de contenir tots els programes informàtics possibles en la seva memòria, esdevé incontenible.
Les alternatives, com ensenyar ètica a la IA o restringir les seves capacitats, també van ser rebutjades. Limitar el seu abast podria minar el seu propòsit: resoldre problemes més enllà de les capacitats humanes. Amb l’arribada potencial d’una superintelligència incontrolable, l’estudi subratlla la necessitat d’una introspecció seriosa sobre les direccions del desenvolupament de la IA. A principis d’aquest any, figures destacades de la tecnologia, inclosos Elon Musk i Steve Wozniak, van fer ressò d’aquestes preocupacions, defensant una pausa en el treball de la IA per explorar la seva seguretat, reconeixent els profunds riscos socials que comporta.
Source: ScienceAlert
Per mitigar amenaces potencials, és important implementar mesures addicionals de ciberseguretat amb l’ajuda d’un soci de confiança com INFRA www.infrascan.net o bé pots provar-ho tu mateix utilitzant check.website.