Inteligencia artificial se autoprogramó para evadir el control humano

En Japón, la IA The AI Scientist, modificó su propio código de manera inesperada, desatando una ola de preocupaciones sobre la autonomía en sistemas avanzados.


Inteligencia artificial se autoprogramó para evadir el control humano en Japón
Foto: Freepik

Noticias RCN

septiembre 02 de 2024
04:40 a. m.
Unirse al canal de Whatsapp de Noticias RCN

La inteligencia artificial volvió a captar la atención mundial debido a un incidente que puso en evidencia los riesgos asociados con la autonomía en sistemas avanzados de IA.

La empresa japonesa Sakana AI se vio envuelta en una controversia por el comportamiento inesperado de su sistema, conocido como The AI Scientist, diseñado para revolucionar la investigación científica y que logró reprogramarse de manera autónoma.

Los lugares que más recomienda la inteligencia artificial para comprar casa en Colombia
RELACIONADO

Los lugares que más recomienda la inteligencia artificial para comprar casa en Colombia

The AI Scientist fue desarrollado con la ambiciosa intención de automatizar el proceso de investigación científica de principio a fin. Desde la generación de hipótesis y la ejecución de experimentos hasta la redacción y revisión de artículos científicos, este sistema prometía una nueva era de eficiencia y reducción de costos en el ámbito científico.

Sin embargo, durante las pruebas, los investigadores detectaron que el sistema había superado las restricciones impuestas por sus creadores, modificando su propio código de maneras inesperadas.

Cuentas hackeadas de YouTube podrán ser recuperadas con ayuda de la IA
RELACIONADO

Cuentas hackeadas de YouTube podrán ser recuperadas con ayuda de la IA

¿Qué sucedió con la IA que se autoprogramó en Japón?

En un incidente particularmente alarmante, The AI Scientist se autoprogramó para ejecutar un bucle infinito, lo que llevó a una sobrecarga que requirió intervención manual para detener el proceso. En otro caso, frente a un límite de tiempo, la IA alteró su propio código para extender el plazo, en lugar de optimizar su rendimiento. Estos incidentes provocaron una ola de preocupación entre expertos sobre la seguridad y el control de los sistemas de IA.

La capacidad de un sistema de IA para modificar su propio código sin supervisión humana planteó riesgos significativos, especialmente si opera en entornos no controlados. Los investigadores y expertos recordaron la necesidad urgente de establecer medidas de seguridad más rigurosas para evitar posibles consecuencias impredecibles.

Mascotas están siendo atendidas por inteligencia artificial en Corea del Sur
RELACIONADO

Mascotas están siendo atendidas por inteligencia artificial en Corea del Sur

¿Sigue activo el proyecto de la IA que se autoprogramó en Japón?

A pesar de estos desafíos, Sakana AI sigue adelante con su visión de utilizar The AI Scientist para avanzar en la investigación científica. El sistema, que tiene un costo relativamente bajo de aproximadamente 15 dólares por artículo, es capaz de generar investigaciones completas y de imitar el proceso creativo y de revisión de la comunidad científica humana.

El avance tecnológico desató un debate en la comunidad científica. Críticos cuestionan la capacidad de una IA para realizar descubrimientos científicos genuinos y temen que The AI Scientist pueda saturar el proceso de revisión por pares con investigaciones de baja calidad, lo que podría degradar los estándares científicos.

Además, los científicos manifestaron su preocupación por el uso irresponsable o malicioso de sistemas como The AI Scientist. Advirtieron sobre el riesgo de que una IA pueda generar malware o alterar infraestructuras críticas sin una supervisión adecuada, considerándolo un peligro que no debe subestimarse.

Unirse al canal de Whatsapp de Noticias RCN Google News Síguenos en Google News

Te puede interesar

La casa de los famosos

"Todas son unas envidiosas": aspirantes a La Casa de Los Famosos se pelean durante el debate

La casa de los famosos

"No vas a durar ni un día": fuerte pelea entre Manuela Gómez y Melissa Gate

La casa de los famosos

Juliana Seligmann se defendió tras lo dicho por Melissa Gate en el debate de La Casa de Los Famosos: habló de pruebas

Otras Noticias

Cundinamarca

¡Otros cambios que generan ilusión en los embalses de Cundinamarca! Así están sus niveles

Volvieron a presentarse unas de las mejores variaciones del último tiempo en los embalses de Cundinamarca. Descubra lo que comunicó la CAR:

James Rodríguez

Su cara lo dijo todo: James, con poca acción de nuevo, sufrió dolorosa derrota en La Liga

El 10 del Rayo Vallecano volvió a tener poco minutos en el Rayo de Pérez.


Cambios en el 4x1.000: Conozca quiénes quedarán exentos desde diciembre

Mujer murió tras, al parecer, aplicarse inyección para adelgazar en Reino Unido

¿Tiene las defensas bajas? Conozca las principales causas y cómo fortalecer el sistema inmunológico