Meta establece un marco para identificar y mitigar "posibles resultados catastróficos" derivados de sistemas de IA
Meta persenta Frontier AI Framework . Foto: europa press
martes, 4 de febrero de 2025 · 08:15
MADRID, (Portaltic/EP) - Meta explicó cómo trabaja para construir herramientas y sistemas de Inteligencia Artificial (IA) avanzadas, en un marco en el que se establece de qué forma evalúa y mitiga los riesgos y cómo establece umbrales catastróficos y modela amenazas para neutralizar a tiempo los "posibles riesgos catastróficos" derivados del uso y desarrollo de esta tecnología.
En un documento, llamado Frontier AI Framework, describió cómo trabaja para construir IA avanzada y de qué forma establece umbrales catastróficos; un enfoque que espera que "evolucione y madure con el tiempo", conforme avanzan los usos de esta tecnología.
Con ello, la compañía resaltó su compromiso por "avanzar en lo último en IA, en los modelos y en los sistemas para implementarlos de manera responsable"; y reconoció que, aunque "no es posible eliminar por completo el riesgo" intrínseco que tiene la IA, sí busca que ésta sea "positiva para la sociedad".
De este modo, indicó que su marco de trabajo de IA diferencia sistemas de 'riesgo alto' y de 'riesgo crítico', siendo estos últimos los relacionados con las áreas de amenazas a la ciberseguridad, así como los de armas químicas y biológicas "de alto impacto".
Frontier AI Framework, por tanto, se ha establecido para identificar posibles resultados catastróficos y evaluar si esos resultados "son posibles gracias a los avances tecnológicos". "De ser así, identificaremos formas de paliar esos riesgos", ha apuntado.
Meta también adelantó que realiza ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar hacer un uso indebido de la IA para producir los comentados resultados catastróficos, trabajando con expertos externos según sea necesario.
Asimismo dijo que define los umbrales de riesgo en función del grado en que sus modelos de IA facilitan los escenarios de amenaza. Para ello, dispone de procesos establecidos para mantener los riesgos dentro de niveles aceptables, incluida la aplicación de medidas de mitigación.
En caso de identificar que un sistema de IA es de riesgo alto, limitará su acceso internamente hasta que haya completado el despliegue de mitigaciones pertinente para "reducir el riesgo a niveles moderados". Ante un riesgo crítico, y si se considera que una IA ha alcanzado el umbral establecido y no se puede mitigar, Meta ha subrayado que detendrá su desarrollo e implementará otras protecciones, aunque no ha especificado cuáles.
La tecnológica señaló finalmente que si bien el objetivo de este marco es reducir al máximo riesgos graves, la razón principal por la que están desarrollando estas tecnologías "es porque tienen el potencial de beneficiar enormemente a la sociedad".
Conviene apuntar que el anuncio de este marco va en la línea de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera en regular esta tecnología a nivel mundial, que entró en vigor el pasado 1 de agosto y tiene por objetivo garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE.
Esta normativa busca regular su uso bajo un marco jurídico uniforme, facilitando la comercialización y circulación de los productos y sistemas basados en IA, sin olvidar la ciberseguridad y el desarrollo tecnológico bajo un enfoque ético por parte de las empresas que la desarrollan.
Asimismo, tiene un enfoque basado en los niveles de riesgo de presenta la IA, que se recogen en cuatro categorías: los sistemas que suponen un riesgo inaceptable -que están directamente prohibidos-, los sistemas de alto riesgo, los sistemas de riesgo limitado y los sistemas de riesgo mínimo. En esta categoría se encuentran la mayoría de los sistemas de IA.
Si bien la aplicación obligatoria de esta normativa comenzará en agosto de 2026, ha sido este domingo cuando se han aplicado las prohibiciones de los sistemas de inteligencia artificial que se consideren que presentan un "riesgo inaceptable", momento en que Meta ha aprovechado para explicar cuál es su enfoque actual para el trabajo responsable de sistemas avanzados de IA.
Con información de proceso.com.mx
Tips al momento
Reaparece esposa de Duarte en centro de detención migratoria en EU
El pasado 16 de abril, se diera a conocer que el ICE liberó a Bertha Gómez Fong, esposa de César Duarte, pero seguiría su proceso migratorio en libertad.
Hoy la esposa del ex gobernador, César Duarte aparece en Centro de Detención en El Paso, según lo confirma U.S. Immigration and Customs Enforcement
Bertha Gómez fue detenida en la residencia ubicada en El Paso, Texas el pasado 25 de marzo de 2026.
Aventajan panistas con tapizado de espectaculares a Morena
Los adelantados panistas al 2027 han tapizado el Estado con miles de espectaculares promocionando su imagen a costa de supuestas entrevistas o acciones propias de sus cargos, con temas del agua, seguridad, entre otros.
Mientras que a los de Morena la presidenta Claudia Sheinbaum los paró en seco con la promoción anticipada y descarada, los panistas han aprovechado estas circunstancias para darse vuelo con la contratación de espectaculares.
Los panistas adelantados niegan que esos espectaculares sean pagados por ellos mismos, o que sean con cargo al dinero de los chihuahuenses, y como excusa las adjudican a terceros.
Los espectaculares de panistas que han saturado el Estado son de Bonilla, Santiago De la Peña, César Jáuregui, Olson, Alan Falomir, Gil Loya, Valenciano, entre otros.
Transición interna en Morena
Versiones al interior de Morena apuntan a una reconfiguración en su dirigencia. Luisa María Alcalde dejaría la presidencia del partido, mientras que Carolina Rangel asumiría de forma temporal para encabezar el proceso que llevaría a Ariadna Montiel al liderazgo nacional.
En la Secretaría de Organización, se prevé la salida de Andrés Manuel López Beltrán, con la posible llegada de Esthela Damián. De acuerdo con fuentes, algunos de los involucrados ya habrían comenzado a despedirse, aunque no existe confirmación oficial.
Señalan irregularidades en investigación de la muerte de agentes estadounidenses
Trascendió que tras el trágico suceso del pasado domingo en donde dos agentes estadounidenses fallecieron, pobladores de Polanco señalaron que las periciales de dicho accidente no se llevaron a cabo y qué únicamente subieron los cuerpos rápidamente por la pendiente del barranco antes que llegaran las demás autoridades.
Esto dejó aún más cuestionamientos, pues el director y los agentes, a quien ya señalaron medios estadounidenses como personal de la CIA, viajaban en una unidad NO blindada y en una zona de alto riesgo después de un importante operativo en el que se desmanteló uno de los más grandes laboratorios de drogas sintéticas incluso a nivel nacional, afectando claramente los intereses de grupos criminales con presencia fuerte en dicha zona.
Por si fuera poco, se señala a el director Oseguera Cervantes como un testigo protegido y se reitera que los elementos no eran capacitadores, sino que colaboraban con las autoridades chihuahuenses en operativos de Ojinaga y otras zonas, en donde incluso portaban armas de la FGE.
La camioneta Ford F-150 estalló debido a que llevaban bidones con gasolina, por lo que los cuerpos quedaron parcialmente calcinados, además se comentó que luego de esto se comenzó a buscar exhaustivamente equipo de los norteamericanos, sin precisar de qué se trataba.
Las contradicciones y el conflicto diplomático por los agentes de EU
A través de la columna Estrictamente Personal de Raymundo Riva Palacio, se señala que el fatal accidente carretero en donde murieron dos agentes estatales y dos de la embajada de Estados Unidos en Chihuahua, ha escalado hasta convertirse en un potencial conflicto diplomático y una crisis de seguridad nacional.
El accidente ocurrido en la zona que conecta los municipios de Guachochi y Morelos, dejó al descubierto la operación de agentes estadounidenses en territorio mexicano sin el conocimiento del Gobierno Federal.
El Fiscal César Jáuregui sostuvo que los fallecidos eran instructores que capacitaban a las fuerzas estatales en el uso de drones y tácticas de vigilancia, sin embargo, la capacitación en tecnología de drones no recae en la DEA, sino en el Ejército o la CIA.
Reparten en cruceros periódico promocional de Andrea Chávez
A los políticos ya no les basta con tapizar la ciudad con su imagen en bardas y espectaculares, ahora ya hasta reparten periódicos promocionales en viviendas y cruceros.
Y este lunes no fue la excepción, pues llamó la atención que en algunos cruceros de la ciudad se repartió el medio “Norteño MX”, el cual promociona la imagen de la morenista Andrea Chávez, en donde se destaca su licencia para contender por la gubernatura.
Por cierto, en el mismo periódico se señala a otros políticos como la gobernadora Maru Campos, con un artículo que menciona lo invertido en publicidad…
Este medio de promoción no es nuevo, pues ya se ha visto con otros actores políticos como Cruz Pérez Cuéllar.
Un grave incidente, y las dudas...
El entramado de la destrucción de un mega narco-laboratorio en Morelos y la muerte de agentes estadounidenses que se dio este fin de semana tras el operativo, ha puesto en alerta no solo a las autoridades locales y nacionales, sino también al gobierno norteamericano, que mantiene en la mira al gobierno mexicano. El hecho, que ya alcanzó espacios en medios nacionales, expone una serie de dudas sin ser explicada completamente y las autoridades se limitan a ofrecer sus condolencias y decir que hay colaboración entre las dos naciones.
Y es que esta operación en donde inclusive participó personalmente el fallecido director de la AEI, Pedro Román Oseguera Cervantes, no solo dejo su muerte, sino otras cuatro personas perdieron la vida, entre ellos dos agentes estadounidenses que según las autoridades, eran instructores y daban capacitaciones a los agentes de la AEI, pero que no tendrían por qué estar en los laboratorios clandestinos, lo que suma las dudas si realmente eran instructores o quizás ellos los llevaron al hallazgo o hasta una intervención de la DEA.
Es incuestionable la presencia de agentes estadounidenses en Chihuahua, aunque lo niegue la federación con su cliché discursivo de la soberanía, pues desde hace tiempo que se encuentran en el país.
Un caso reciente, es el de la desaparición del hermano de un agente de ministerio público que posteriormente se localizó sin vida, y en donde tuvieron presencia elementos del país vecino, entonces, ¿Por qué decir que no hay intervención? cuando esto, inclusive debe ser avalado por la SRE.
Habrá que ver la reacción de Estados Unidos, de un personaje sediento por intervenir y abrir fuego, como es el caso de Donald Trump...
Comienza instalación de equipo para evento “Los Compas de Cruz”
Este viernes comenzó la instalación de equipo de sonido, así como la colocación de sillas, en la Plaza de la Mexicanidad con motivo del evento denominado “Los Compas de Cruz”.
La invitación a esta fiesta empezó a circular a través de redes sociales, donde se señala que sería organizada presuntamente por el alcalde Cruz Pérez Cuéllar.
De acuerdo con la información difundida, el evento está programado para realizarse este sábado 18 de abril en uno de los espacios públicos más emblemáticos de la ciudad.
Andrea Chávez acusa al gobierno estatal de subir precio en las casetas
El aumento en las tarifas de casetas en Chihuahua generó controversia luego de que la senadora Andrea Chávez acusara a la gobernadora María Eugenia Campos de impulsar un “tarifazo”.
No obstante, el ajuste responde a disposiciones federales: las tarifas son definidas por la Secretaría de Infraestructura, Comunicaciones y Transportes y se actualizan conforme a la inflación con base en datos del Instituto Nacional de Estadística y Geografía, por lo que no dependen directamente del gobierno estatal.
Cruz Pérez Cuéllar felicita a Citlalli Hernández tras su nuevo encargo en Morena rumbo a 2027
El alcalde de Ciudad Juárez, Cruz Pérez Cuéllar, felicitó a Citlalli Hernández por su nuevo encargo dentro de Morena, luego de que fuera designada para encabezar la Comisión Nacional de Elecciones del partido de cara a los comicios de 2027.
A través de sus redes sociales, el edil juarense reconoció su trabajo como la primera titular de la Secretaría de las Mujeres en México y le deseó éxito en esta nueva responsabilidad, destacando que será clave para el avance del movimiento en el país y en Chihuahua.
La felicitación ocurre después de que la presidenta nacional de Morena, Luisa María Alcalde, anunciara que Hernández asumirá la presidencia de la Comisión Nacional de Elecciones, desde donde dará seguimiento a la mesa de alianzas y participará en el proceso interno de selección de candidaturas.
Renueva espectaculares Gilberto Loya en Ciudad Juárez; reaparecen sobre la Tecnológico
En distintos puntos de la avenida Tecnológico comenzaron a verse nuevamente espectaculares del secretario de Seguridad Pública Estatal, Gilberto Loya, con el mensaje “Gobernar con seguridad para todo Chihuahua”.
Al menos varios anuncios fueron detectados a lo largo de esta vialidad.
Autorizan licencia indefinida a Andrea Chávez en el Senado por embarazo
El Senado de la República autorizó a la senadora de Morena, Andrea Chávez, separarse de su cargo a partir de este 15 de abril por tiempo indefinido, debido a su embarazo.
La legisladora había dado a conocer recientemente que espera a su primer hijo.
Su suplente Nora Elena Yu Hernández asumirá el escaño mientras dure su ausencia.
SNTE pide suspender clases en CDMX durante partidos del Mundial
Las secciones 9, 10, 11 y 60 del SNTE en la Ciudad de México solicitaron a la SEP suspender clases los días 11, 17, 24 y 30 de junio, debido a la movilidad y concentración masiva de personas que generarán los partidos del Mundial de futbol en la capital.
El sindicato argumentó que la medida busca evitar afectaciones en los traslados de alumnos, docentes y personal educativo, principalmente por el aumento del tránsito en zonas cercanas al Estadio Banorte (Azteca).
Hasta ahora, la SEP no ha informado si aprobará la petición.
El PAN le copia a Morena y dejan al MCPRI el movimiento del sombrero
El limitado ingenio del PAN sólo le da para ser una copia de la estrategia preelectoral de Morena, tanto así que ya habrá "coordinadores de defensa albiazules", es decir potenciales candidatos a las gubernaturas.
Un ejemplo muy claro es Michoacán, donde el PAN en vez de ir con Grecia Quiroz, ha decidido perfilar a Alfonso Martínez Alcázar, actual alcalde de Morelia, al que Jorge Romero nombrará "coordinador del cambio y la defensa de la familia", algo así como los "Coordinadores de la Defensa" de Morena.
El PAN ya marca distancia con el PRI, incluyendo que esto signifique derrota.
Quedaría para el PRI y MC la apuesta con Grecia Quiroz, viuda de Carlos Manzo y el Movimiento del Sombrero.
