Meta establece un marco para identificar y mitigar "posibles resultados catastróficos" derivados de sistemas de IA
Meta persenta Frontier AI Framework . Foto: europa press
martes, 4 de febrero de 2025 · 08:15
MADRID, (Portaltic/EP) - Meta explicó cómo trabaja para construir herramientas y sistemas de Inteligencia Artificial (IA) avanzadas, en un marco en el que se establece de qué forma evalúa y mitiga los riesgos y cómo establece umbrales catastróficos y modela amenazas para neutralizar a tiempo los "posibles riesgos catastróficos" derivados del uso y desarrollo de esta tecnología.
En un documento, llamado Frontier AI Framework, describió cómo trabaja para construir IA avanzada y de qué forma establece umbrales catastróficos; un enfoque que espera que "evolucione y madure con el tiempo", conforme avanzan los usos de esta tecnología.
Con ello, la compañía resaltó su compromiso por "avanzar en lo último en IA, en los modelos y en los sistemas para implementarlos de manera responsable"; y reconoció que, aunque "no es posible eliminar por completo el riesgo" intrínseco que tiene la IA, sí busca que ésta sea "positiva para la sociedad".
De este modo, indicó que su marco de trabajo de IA diferencia sistemas de 'riesgo alto' y de 'riesgo crítico', siendo estos últimos los relacionados con las áreas de amenazas a la ciberseguridad, así como los de armas químicas y biológicas "de alto impacto".
Frontier AI Framework, por tanto, se ha establecido para identificar posibles resultados catastróficos y evaluar si esos resultados "son posibles gracias a los avances tecnológicos". "De ser así, identificaremos formas de paliar esos riesgos", ha apuntado.
Meta también adelantó que realiza ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar hacer un uso indebido de la IA para producir los comentados resultados catastróficos, trabajando con expertos externos según sea necesario.
Asimismo dijo que define los umbrales de riesgo en función del grado en que sus modelos de IA facilitan los escenarios de amenaza. Para ello, dispone de procesos establecidos para mantener los riesgos dentro de niveles aceptables, incluida la aplicación de medidas de mitigación.
En caso de identificar que un sistema de IA es de riesgo alto, limitará su acceso internamente hasta que haya completado el despliegue de mitigaciones pertinente para "reducir el riesgo a niveles moderados". Ante un riesgo crítico, y si se considera que una IA ha alcanzado el umbral establecido y no se puede mitigar, Meta ha subrayado que detendrá su desarrollo e implementará otras protecciones, aunque no ha especificado cuáles.
La tecnológica señaló finalmente que si bien el objetivo de este marco es reducir al máximo riesgos graves, la razón principal por la que están desarrollando estas tecnologías "es porque tienen el potencial de beneficiar enormemente a la sociedad".
Conviene apuntar que el anuncio de este marco va en la línea de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera en regular esta tecnología a nivel mundial, que entró en vigor el pasado 1 de agosto y tiene por objetivo garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE.
Esta normativa busca regular su uso bajo un marco jurídico uniforme, facilitando la comercialización y circulación de los productos y sistemas basados en IA, sin olvidar la ciberseguridad y el desarrollo tecnológico bajo un enfoque ético por parte de las empresas que la desarrollan.
Asimismo, tiene un enfoque basado en los niveles de riesgo de presenta la IA, que se recogen en cuatro categorías: los sistemas que suponen un riesgo inaceptable -que están directamente prohibidos-, los sistemas de alto riesgo, los sistemas de riesgo limitado y los sistemas de riesgo mínimo. En esta categoría se encuentran la mayoría de los sistemas de IA.
Si bien la aplicación obligatoria de esta normativa comenzará en agosto de 2026, ha sido este domingo cuando se han aplicado las prohibiciones de los sistemas de inteligencia artificial que se consideren que presentan un "riesgo inaceptable", momento en que Meta ha aprovechado para explicar cuál es su enfoque actual para el trabajo responsable de sistemas avanzados de IA.
Con información de proceso.com.mx
Tips al momento
Avanza el gusano barrenador del ganado
De llamar la atención el primer caso de gusano barrenador del ganado en humanos. Este fue detectado en una mujer, mayor de edad, residente el municipio de Acacoyagua, en el estado de Chiapas.
Luego que fuera alertada la presencia de ganado del gusano barrenador del ganado, el pasado 21 de noviembre de 2024, en un lote de ganado introducido de contrabando; ahora, se conoce la primera afectación a una persona, por parte de esta mosca que deposita sus huevecillos en heridas y cuyas posteriores larvas devoran el tejido vivo.
Incluso, hay información que habla de que habría hasta ocho personas afectadas por esta plaga, en siete estados de nuestro país, así que lo anterior pone en evidencia, la gravedad de su presencia , luego de que fue introducida desde Guatemala, por la falta de controles sanitarios y legales adecuados en la frontera Sur de nuestro país.
También, lo anterior muestra que la plaga se está expandiendo, pese a la campaña en su contra con mosca esterilizada, lo que al parecer no es suficiente dada su presencia en varias entidades del país como son Chiapas, Tabasco y Campeche, en donde ya se han tenido reportes de casos.
Hay quienes dicen que, si esto sucede ya con humanos, habrá que imaginar lo que ocurre, por ejemplo, con la fauna, que no está exenta del ataque de esta plaga, especies a las que no hay manera de atender como es el caso del ganado u otros animales domésticos.
Así, esta plaga se está expandiendo y que, pese a no estar presente en el norte del país, ya causó grandes pérdidas económicas a los ganaderos exportadores de becerro en pie, como es Chihuahua, que por la detección de esta mosca en Chiapas, Estados Unidos cerró su frontera a la comercialización de ganado por casi tres meses. Comentan que, urgen mayores medidas de control, como puede ser entre otras, el cierre de la frontera Sur, algo que han pedido de manera insistente los productores pecuarios.
Notas recientes
Las más leídas
