Meta establece un marco para identificar y mitigar "posibles resultados catastróficos" derivados de sistemas de IA
Meta persenta Frontier AI Framework . Foto: europa press
martes, 4 de febrero de 2025 · 08:15
MADRID, (Portaltic/EP) - Meta explicó cómo trabaja para construir herramientas y sistemas de Inteligencia Artificial (IA) avanzadas, en un marco en el que se establece de qué forma evalúa y mitiga los riesgos y cómo establece umbrales catastróficos y modela amenazas para neutralizar a tiempo los "posibles riesgos catastróficos" derivados del uso y desarrollo de esta tecnología.
En un documento, llamado Frontier AI Framework, describió cómo trabaja para construir IA avanzada y de qué forma establece umbrales catastróficos; un enfoque que espera que "evolucione y madure con el tiempo", conforme avanzan los usos de esta tecnología.
Con ello, la compañía resaltó su compromiso por "avanzar en lo último en IA, en los modelos y en los sistemas para implementarlos de manera responsable"; y reconoció que, aunque "no es posible eliminar por completo el riesgo" intrínseco que tiene la IA, sí busca que ésta sea "positiva para la sociedad".
De este modo, indicó que su marco de trabajo de IA diferencia sistemas de 'riesgo alto' y de 'riesgo crítico', siendo estos últimos los relacionados con las áreas de amenazas a la ciberseguridad, así como los de armas químicas y biológicas "de alto impacto".
Frontier AI Framework, por tanto, se ha establecido para identificar posibles resultados catastróficos y evaluar si esos resultados "son posibles gracias a los avances tecnológicos". "De ser así, identificaremos formas de paliar esos riesgos", ha apuntado.
Meta también adelantó que realiza ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar hacer un uso indebido de la IA para producir los comentados resultados catastróficos, trabajando con expertos externos según sea necesario.
Asimismo dijo que define los umbrales de riesgo en función del grado en que sus modelos de IA facilitan los escenarios de amenaza. Para ello, dispone de procesos establecidos para mantener los riesgos dentro de niveles aceptables, incluida la aplicación de medidas de mitigación.
En caso de identificar que un sistema de IA es de riesgo alto, limitará su acceso internamente hasta que haya completado el despliegue de mitigaciones pertinente para "reducir el riesgo a niveles moderados". Ante un riesgo crítico, y si se considera que una IA ha alcanzado el umbral establecido y no se puede mitigar, Meta ha subrayado que detendrá su desarrollo e implementará otras protecciones, aunque no ha especificado cuáles.
La tecnológica señaló finalmente que si bien el objetivo de este marco es reducir al máximo riesgos graves, la razón principal por la que están desarrollando estas tecnologías "es porque tienen el potencial de beneficiar enormemente a la sociedad".
Conviene apuntar que el anuncio de este marco va en la línea de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera en regular esta tecnología a nivel mundial, que entró en vigor el pasado 1 de agosto y tiene por objetivo garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE.
Esta normativa busca regular su uso bajo un marco jurídico uniforme, facilitando la comercialización y circulación de los productos y sistemas basados en IA, sin olvidar la ciberseguridad y el desarrollo tecnológico bajo un enfoque ético por parte de las empresas que la desarrollan.
Asimismo, tiene un enfoque basado en los niveles de riesgo de presenta la IA, que se recogen en cuatro categorías: los sistemas que suponen un riesgo inaceptable -que están directamente prohibidos-, los sistemas de alto riesgo, los sistemas de riesgo limitado y los sistemas de riesgo mínimo. En esta categoría se encuentran la mayoría de los sistemas de IA.
Si bien la aplicación obligatoria de esta normativa comenzará en agosto de 2026, ha sido este domingo cuando se han aplicado las prohibiciones de los sistemas de inteligencia artificial que se consideren que presentan un "riesgo inaceptable", momento en que Meta ha aprovechado para explicar cuál es su enfoque actual para el trabajo responsable de sistemas avanzados de IA.
Con información de proceso.com.mx
Tips al momento
Pediría licencia Marina del Pilar
Con las acusaciones de los Estados Unidos a funcionarios morenistas de Sinaloa, incluido el gobernador Rubén Rocha Moya, tal parece que la segunda mandataria estatal en pedir licencia será Marina del Pilar Ávila.
Trascendió que la gobernadora morenista citó de urgencia a todo el gabinete de Baja California en la ciudad de Tijuana, a las 18:00 horas, presuntamente para pedir licencia de su cargo.
Hay que recordar que la gobernadora ha sido señalada anteriormente por lavado de dinero y nexos con el crimen organizado en el estado de Baja California, además de que el gobierno de Estados Unidos le retiró la visa.
Se estrenan Alcalde y Ramírez en la mañanera de Sheinbaum
Tras una serie de cambios en el gabinete federal, esta mañana la Presidenta Claudia Sheinbaum le dio la bienvenida a Luisa María Alcalde como Consejera Jurídica y a Leticia Ramírez, como secretaria del Bienestar.
Las dos funcionarias, que este lunes se suman al equipo de la presidenta, fueron elegidas en días pasados, tras la salida de Estela Damián y la ahora presidenta de Morena, Ariadna Montiel.
Por cierto, Alcalde llega con un tema importante, tras las acusaciones de los Estados Unidos hacia el gobernador morenista con licencia de Sinaloa, Rubén Rocha Moya, explicará porque no se llevó a cabo el aseguramiento y posterior extradición del mandatario, tomando en cuenta las leyes mexicanas.
Cláusula del TMEC y la narcopolítica sobre México
El Capítulo 27 del T-MEC se ha convertido en un punto crítico para México al ser una "cláusula que pone a México contra la pared" debido a sus estrictas exigencias en materia de anticorrupción.
Este apartado del tratado obliga a tipificar el cohecho nacional y transnacional, establecer la responsabilidad penal y sancionar a empresas involucradas en actos ilícitos, eliminar la deducción fiscal de sobornos y exigir declaraciones patrimoniales a funcionarios y fomentar la cooperación internacional.
Para que esta clausula sea aplicable, la corrupción debe afectar directamente el comercio o la inversión entre los tres países.
El panorama no es alentador para México, en medio del caso de "CIA-Chihuahua", la presencia del embajador Ronald Johnson en Sinaloa, la solicitud de EU de extradición del gobernador Rocha Moya, la desaparición del INAI y el debilitamiento del Sistema Nacional Anticorrupción.
Estados Unidos podría aplica la Ley de Prácticas Corruptas en el Extranjero (FCPA), la Ley Global Magnitsky (sanciones dirigidas), la cancelación de visas y la emisión de acusaciones en cortes federales.
El mensaje de Pérez Cuéllar rumbo a 400 días
El alcalde de Ciudad Juárez, Cruz Pérez Cuéllar, difundió en redes sociales un mensaje en el que señala que “faltan 400 días” y afirma “Para allá vamos, Chihuahua”, acompañado del hashtag #400DíasParaLa4T.
La publicación se enmarca en una estrategia de posicionamiento político rumbo al proceso electoral en el que se renovará la gubernatura del estado, en un contexto donde el edil ha dejado ver sus aspiraciones para contender por dicho cargo.
En la imagen que acompaña el mensaje, se observa al fondo el Palacio de Gobierno de Chihuahua, lo que refuerza el simbolismo del mensaje en torno a la contienda estatal.
Notas recientes
Las más leídas
