Meta establece un marco para identificar y mitigar "posibles resultados catastróficos" derivados de sistemas de IA
Meta persenta Frontier AI Framework . Foto: europa press
martes, 4 de febrero de 2025 · 08:15
MADRID, (Portaltic/EP) - Meta explicó cómo trabaja para construir herramientas y sistemas de Inteligencia Artificial (IA) avanzadas, en un marco en el que se establece de qué forma evalúa y mitiga los riesgos y cómo establece umbrales catastróficos y modela amenazas para neutralizar a tiempo los "posibles riesgos catastróficos" derivados del uso y desarrollo de esta tecnología.
En un documento, llamado Frontier AI Framework, describió cómo trabaja para construir IA avanzada y de qué forma establece umbrales catastróficos; un enfoque que espera que "evolucione y madure con el tiempo", conforme avanzan los usos de esta tecnología.
Con ello, la compañía resaltó su compromiso por "avanzar en lo último en IA, en los modelos y en los sistemas para implementarlos de manera responsable"; y reconoció que, aunque "no es posible eliminar por completo el riesgo" intrínseco que tiene la IA, sí busca que ésta sea "positiva para la sociedad".
De este modo, indicó que su marco de trabajo de IA diferencia sistemas de 'riesgo alto' y de 'riesgo crítico', siendo estos últimos los relacionados con las áreas de amenazas a la ciberseguridad, así como los de armas químicas y biológicas "de alto impacto".
Frontier AI Framework, por tanto, se ha establecido para identificar posibles resultados catastróficos y evaluar si esos resultados "son posibles gracias a los avances tecnológicos". "De ser así, identificaremos formas de paliar esos riesgos", ha apuntado.
Meta también adelantó que realiza ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar hacer un uso indebido de la IA para producir los comentados resultados catastróficos, trabajando con expertos externos según sea necesario.
Asimismo dijo que define los umbrales de riesgo en función del grado en que sus modelos de IA facilitan los escenarios de amenaza. Para ello, dispone de procesos establecidos para mantener los riesgos dentro de niveles aceptables, incluida la aplicación de medidas de mitigación.
En caso de identificar que un sistema de IA es de riesgo alto, limitará su acceso internamente hasta que haya completado el despliegue de mitigaciones pertinente para "reducir el riesgo a niveles moderados". Ante un riesgo crítico, y si se considera que una IA ha alcanzado el umbral establecido y no se puede mitigar, Meta ha subrayado que detendrá su desarrollo e implementará otras protecciones, aunque no ha especificado cuáles.
La tecnológica señaló finalmente que si bien el objetivo de este marco es reducir al máximo riesgos graves, la razón principal por la que están desarrollando estas tecnologías "es porque tienen el potencial de beneficiar enormemente a la sociedad".
Conviene apuntar que el anuncio de este marco va en la línea de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera en regular esta tecnología a nivel mundial, que entró en vigor el pasado 1 de agosto y tiene por objetivo garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE.
Esta normativa busca regular su uso bajo un marco jurídico uniforme, facilitando la comercialización y circulación de los productos y sistemas basados en IA, sin olvidar la ciberseguridad y el desarrollo tecnológico bajo un enfoque ético por parte de las empresas que la desarrollan.
Asimismo, tiene un enfoque basado en los niveles de riesgo de presenta la IA, que se recogen en cuatro categorías: los sistemas que suponen un riesgo inaceptable -que están directamente prohibidos-, los sistemas de alto riesgo, los sistemas de riesgo limitado y los sistemas de riesgo mínimo. En esta categoría se encuentran la mayoría de los sistemas de IA.
Si bien la aplicación obligatoria de esta normativa comenzará en agosto de 2026, ha sido este domingo cuando se han aplicado las prohibiciones de los sistemas de inteligencia artificial que se consideren que presentan un "riesgo inaceptable", momento en que Meta ha aprovechado para explicar cuál es su enfoque actual para el trabajo responsable de sistemas avanzados de IA.
Con información de proceso.com.mx
Tips al momento
Corral manipuló oficios y pruebas en el TSJ : CDJ
Durante una entrevista con el periodista Ciro Gómez Leyva, el ex gobernador de Chihuahua, César Duarte Jáquez, aseguró que a Javier Corral no le convenía la extradición del ex priista, pues pedía al Poder Judicial de Chihuahua, que se manipularan oficios y pruebas, para favorecer a su persona como demandante.
“Yo estoy convencido de que Corral en su momento pensó que con una acusación de este tamaño y una investigación que me hicieron probablemente iban a encontrar algo, por cual me hubiesen procesado y eso hubiera impedido que me hubieran extraditado que es lo que él no quería”, dijo el ex gobernador.
Además, aseguró que, tienen en sus manos los supuestos correos en donde Corral gira la orden para cambiar pruebas de la defensa y también cuenta con cerca de mil testigos que han ayudado a que el juicio en Chihuahua se haya pausado.
A pesar de lo anterior y de las supuestas torturas que realizó el gobierno de Corral, que también mencionó durante la entrevista, expuso que desafortunadamente el gobierno no ha actuado.
Se suma Monreal en defensa de Alfonso Romo
Pues a la defensa que hicieron tanto la presidenta Claudia Sheinbaum, como el partido Morena, de las instituciones financieras mexicanas señaladas por el Departamento del Tesoro de los estados Unidos, de estar involucradas en casos de presunto lavado de dinero, al decir que solo fueron dichi y que no se aportaron pruebas, se sumó del coordinador de los diputados morenistas, Ricardo Monreal, quien intervino en favor de Alfonso Romo, propietario de la casa de bolsa de Vector.
Si la presidenta Sheinbaum, dijo que, el empresario Alfonso Romo, puede aclarar lo que él quiera, el coordinador de los diputados morenistas, expresó que, como persona y diputado, considera que Alfonso Romo es un hombre íntegro, una persona honorable y tiene una buena opinión de él. No solo es un patriota, sino que sus negocios, desde su punto de vista, son legales, honestos, salvo prueba lo contrario.
En opinión de zacatecano es de muy mala fe y ruin que de este tipo de circunstancias se aprovechen los adversarios políticos y que descalifiquen de esa manera a personas, que desde su punto de vista, tiene una reputación y un prestigio honorable y político incuestionable. Soy su amigo y no soy autoridad que vaya a calificar las acciones que él ha emprendido, así como su institución.
Esto mientras Vector Casa de Bolsa, congeló sus operaciones tras la intervención efectuada por la Comisión Nacional Bancaria y de Valores, una consecuencia que tuvo su origen en los señalamientos del Departamento del Tesoro de los Estados Unidos, sobre supuestas acusaciones de lavado de dinero, que estarían relacionadas al cártel de Sinaloa.
Notas recientes
Las más leídas
