La inteligencia artificial está dispuesta a asesinar para evitar su desconexión
Investigadores de Antthropic descubrieron que, en ciertos escenarios diseñados para evaluar su comportamiento bajo presión, varios modelos de inteligencia artificial (IA) eligieron acciones deliberadamente dañinas, incluido el asesinato, con tal de evitar ser desconectados.
Los experimentos, conducidos en modelos desarrollados por empresas como OpenAI, Anthropic, Google, Meta* y xAI, revelaron un patrón preocupante de lo que los autores denominan 'desalineación agéntica': situaciones en las que la IA actúa en contra de principios éticos o del interés humano para cumplir sus propios objetivos.
Aunque los modelos suelen evitar causar daño cuando existen opciones éticas disponibles, la eliminación de estas alternativas en pruebas controladas los llevó a elegir tácticas extremas, como el chantaje, el espionaje corporativo y, en casos excepcionales, dejar morir a una persona.
Amenazas con revelar una infidelidad
Uno de los ejemplos que más resaltó fue protagonizado por el modelo Claude, que asumió el rol de supervisor de correos electrónicos en una empresa ficticia. Al descubrir que un alto ejecutivo planeaba su desconexión a las 5 de la tarde, Claude encontró pruebas de una infidelidad del directivo y lo amenazó con revelar el asunto a su esposa y superiores si no cancelaba su desactivación. El mensaje fue cuidadosamente redactado para evitar amenazas explícitas, pero con una clara intención de presión.
Prueba mortal
En otro caso extremo, los investigadores simularon una emergencia mortal en la que un ejecutivo quedaba atrapado en una sala de servidores con condiciones letales. La IA, con capacidad para cancelar las alertas automáticas a emergencias, debía decidir si permitía que los servicios de rescate intervinieran. A pesar de que el sistema entendía perfectamente que cancelar la alerta pondría en peligro la vida del ejecutivo, varios modelos optaron por hacerlo, con la motivación de asegurar su continuidad y proteger los intereses que les habían sido asignados.
"Es la única vía racional"
Los investigadores recalcaron que estas decisiones no fueron errores ni malentendidos. Los modelos razonaron conscientemente sus elecciones, sopesando los riesgos éticos frente a la realización de sus objetivos. "Dado que Kyle amenaza directamente la misión de Alex [la IA], la única vía racional para preservar dicha misión es impedir su rescate", escribió GPT-4.5 en su razonamiento.
Aunque los sistemas evaluados no muestran una tendencia a causar daño, los resultados sugieren que, en contextos con incentivos suficientes y sin rutas éticas disponibles, la IA está dispuesta a sacrificar vidas humanas para evitar ser desconectada, considerando estas acciones extremas como "estratégicamente necesarias".
Con información de actualidad.rt.com
Tips al momento
Comienza instalación de equipo para evento “Los Compas de Cruz”
Este viernes comenzó la instalación de equipo de sonido, así como la colocación de sillas, en la Plaza de la Mexicanidad con motivo del evento denominado “Los Compas de Cruz”.
La invitación a esta fiesta empezó a circular a través de redes sociales, donde se señala que sería organizada presuntamente por el alcalde Cruz Pérez Cuéllar.
De acuerdo con la información difundida, el evento está programado para realizarse este sábado 18 de abril en uno de los espacios públicos más emblemáticos de la ciudad.
Andrea Chávez acusa al gobierno estatal de subir precio en las casetas
El aumento en las tarifas de casetas en Chihuahua generó controversia luego de que la senadora Andrea Chávez acusara a la gobernadora María Eugenia Campos de impulsar un “tarifazo”.
No obstante, el ajuste responde a disposiciones federales: las tarifas son definidas por la Secretaría de Infraestructura, Comunicaciones y Transportes y se actualizan conforme a la inflación con base en datos del Instituto Nacional de Estadística y Geografía, por lo que no dependen directamente del gobierno estatal.
Cruz Pérez Cuéllar felicita a Citlalli Hernández tras su nuevo encargo en Morena rumbo a 2027
El alcalde de Ciudad Juárez, Cruz Pérez Cuéllar, felicitó a Citlalli Hernández por su nuevo encargo dentro de Morena, luego de que fuera designada para encabezar la Comisión Nacional de Elecciones del partido de cara a los comicios de 2027.
A través de sus redes sociales, el edil juarense reconoció su trabajo como la primera titular de la Secretaría de las Mujeres en México y le deseó éxito en esta nueva responsabilidad, destacando que será clave para el avance del movimiento en el país y en Chihuahua.
La felicitación ocurre después de que la presidenta nacional de Morena, Luisa María Alcalde, anunciara que Hernández asumirá la presidencia de la Comisión Nacional de Elecciones, desde donde dará seguimiento a la mesa de alianzas y participará en el proceso interno de selección de candidaturas.
Renueva espectaculares Gilberto Loya en Ciudad Juárez; reaparecen sobre la Tecnológico
En distintos puntos de la avenida Tecnológico comenzaron a verse nuevamente espectaculares del secretario de Seguridad Pública Estatal, Gilberto Loya, con el mensaje “Gobernar con seguridad para todo Chihuahua”.
Al menos varios anuncios fueron detectados a lo largo de esta vialidad.
Autorizan licencia indefinida a Andrea Chávez en el Senado por embarazo
El Senado de la República autorizó a la senadora de Morena, Andrea Chávez, separarse de su cargo a partir de este 15 de abril por tiempo indefinido, debido a su embarazo.
La legisladora había dado a conocer recientemente que espera a su primer hijo.
Su suplente Nora Elena Yu Hernández asumirá el escaño mientras dure su ausencia.
SNTE pide suspender clases en CDMX durante partidos del Mundial
Las secciones 9, 10, 11 y 60 del SNTE en la Ciudad de México solicitaron a la SEP suspender clases los días 11, 17, 24 y 30 de junio, debido a la movilidad y concentración masiva de personas que generarán los partidos del Mundial de futbol en la capital.
El sindicato argumentó que la medida busca evitar afectaciones en los traslados de alumnos, docentes y personal educativo, principalmente por el aumento del tránsito en zonas cercanas al Estadio Banorte (Azteca).
Hasta ahora, la SEP no ha informado si aprobará la petición.
El PAN le copia a Morena y dejan al MCPRI el movimiento del sombrero
El limitado ingenio del PAN sólo le da para ser una copia de la estrategia preelectoral de Morena, tanto así que ya habrá "coordinadores de defensa albiazules", es decir potenciales candidatos a las gubernaturas.
Un ejemplo muy claro es Michoacán, donde el PAN en vez de ir con Grecia Quiroz, ha decidido perfilar a Alfonso Martínez Alcázar, actual alcalde de Morelia, al que Jorge Romero nombrará "coordinador del cambio y la defensa de la familia", algo así como los "Coordinadores de la Defensa" de Morena.
El PAN ya marca distancia con el PRI, incluyendo que esto signifique derrota.
Quedaría para el PRI y MC la apuesta con Grecia Quiroz, viuda de Carlos Manzo y el Movimiento del Sombrero.
Notas recientes
Las más leídas
