El potencial de la inteligencia artificial (IA) para superar la inteligencia humana ha sido objeto de debate durante muchos años, y avances como ChatGPT solo han intensificado estas discusiones. En 2021, los científicos determinaron que es casi seguro que es imposible controlar una IA superinteligente, ya que esto requeriría la creación de una simulación comprensible, tarea considerada inviable debido a la naturaleza compleja de la IA.
La preocupación va más allá de la incapacidad para establecer reglas de ‘no hacer daño’ para la IA; el problema, como destacaron los investigadores, es la diferencia fundamental entre la ética robótica convencional y los desafíos únicos que plantea una superinteligencia multifacética, capaz de movilizar diversos recursos para lograr objetivos potencialmente incomprensibles.
Basándose en el ‘problema de la detención’ de Alan Turing de 1936, el equipo razonó que, aunque es posible saber si programas específicos alcanzarán una conclusión o entrarán en un bucle sin fin, es lógicamente imposible determinar esto para cada programa potencial. Por lo tanto, una IA superinteligente, capaz de albergar todos los programas informáticos posibles en su memoria, se vuelve incontrolable.
Las alternativas, como enseñar ética a la IA o restringir sus capacidades, también fueron rechazadas. Limitar su alcance podría socavar su propósito: resolver problemas más allá de las capacidades humanas. Con la posible llegada de una superinteligencia incontrolable, el estudio subraya la necesidad de una introspección seria sobre las direcciones del desarrollo de la IA. A principios de este año, figuras destacadas del mundo tecnológico, incluidos Elon Musk y Steve Wozniak, hicieron eco de estas preocupaciones, abogando por una pausa en el trabajo de la IA para explorar su seguridad, reconociendo los profundos riesgos que plantea para la sociedad.
Source: ScienceAlert
Para mitigar posibles amenazas, es importante implementar medidas adicionales de ciberseguridad con la ayuda de un socio de confianza como INFRA www.infrascan.net o puede intentarlo usted mismo utilizando check.website.