Meta establece un marco para identificar y mitigar "posibles resultados catastróficos" derivados de sistemas de IA
Meta persenta Frontier AI Framework . Foto: europa press
martes, 4 de febrero de 2025 · 08:15
MADRID, (Portaltic/EP) - Meta explicó cómo trabaja para construir herramientas y sistemas de Inteligencia Artificial (IA) avanzadas, en un marco en el que se establece de qué forma evalúa y mitiga los riesgos y cómo establece umbrales catastróficos y modela amenazas para neutralizar a tiempo los "posibles riesgos catastróficos" derivados del uso y desarrollo de esta tecnología.
En un documento, llamado Frontier AI Framework, describió cómo trabaja para construir IA avanzada y de qué forma establece umbrales catastróficos; un enfoque que espera que "evolucione y madure con el tiempo", conforme avanzan los usos de esta tecnología.
Con ello, la compañía resaltó su compromiso por "avanzar en lo último en IA, en los modelos y en los sistemas para implementarlos de manera responsable"; y reconoció que, aunque "no es posible eliminar por completo el riesgo" intrínseco que tiene la IA, sí busca que ésta sea "positiva para la sociedad".
De este modo, indicó que su marco de trabajo de IA diferencia sistemas de 'riesgo alto' y de 'riesgo crítico', siendo estos últimos los relacionados con las áreas de amenazas a la ciberseguridad, así como los de armas químicas y biológicas "de alto impacto".
Frontier AI Framework, por tanto, se ha establecido para identificar posibles resultados catastróficos y evaluar si esos resultados "son posibles gracias a los avances tecnológicos". "De ser así, identificaremos formas de paliar esos riesgos", ha apuntado.
Meta también adelantó que realiza ejercicios de modelado de amenazas para anticipar cómo diferentes actores podrían intentar hacer un uso indebido de la IA para producir los comentados resultados catastróficos, trabajando con expertos externos según sea necesario.
Asimismo dijo que define los umbrales de riesgo en función del grado en que sus modelos de IA facilitan los escenarios de amenaza. Para ello, dispone de procesos establecidos para mantener los riesgos dentro de niveles aceptables, incluida la aplicación de medidas de mitigación.
En caso de identificar que un sistema de IA es de riesgo alto, limitará su acceso internamente hasta que haya completado el despliegue de mitigaciones pertinente para "reducir el riesgo a niveles moderados". Ante un riesgo crítico, y si se considera que una IA ha alcanzado el umbral establecido y no se puede mitigar, Meta ha subrayado que detendrá su desarrollo e implementará otras protecciones, aunque no ha especificado cuáles.
La tecnológica señaló finalmente que si bien el objetivo de este marco es reducir al máximo riesgos graves, la razón principal por la que están desarrollando estas tecnologías "es porque tienen el potencial de beneficiar enormemente a la sociedad".
Conviene apuntar que el anuncio de este marco va en la línea de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera en regular esta tecnología a nivel mundial, que entró en vigor el pasado 1 de agosto y tiene por objetivo garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE.
Esta normativa busca regular su uso bajo un marco jurídico uniforme, facilitando la comercialización y circulación de los productos y sistemas basados en IA, sin olvidar la ciberseguridad y el desarrollo tecnológico bajo un enfoque ético por parte de las empresas que la desarrollan.
Asimismo, tiene un enfoque basado en los niveles de riesgo de presenta la IA, que se recogen en cuatro categorías: los sistemas que suponen un riesgo inaceptable -que están directamente prohibidos-, los sistemas de alto riesgo, los sistemas de riesgo limitado y los sistemas de riesgo mínimo. En esta categoría se encuentran la mayoría de los sistemas de IA.
Si bien la aplicación obligatoria de esta normativa comenzará en agosto de 2026, ha sido este domingo cuando se han aplicado las prohibiciones de los sistemas de inteligencia artificial que se consideren que presentan un "riesgo inaceptable", momento en que Meta ha aprovechado para explicar cuál es su enfoque actual para el trabajo responsable de sistemas avanzados de IA.
Con información de proceso.com.mx
Tips al momento
Complicidad de autoridades con el crimen organizado por acción u omisión: Adrián LeBarón
Uno de los panelistas en las mesas técnicas para el análisis del narcoterrorismo, convocadas a iniciativa del diputado Francisco Sánchez y realizada ayer en el Congreso del Estado, fue el activista, Adrián LeBarón, padre y abuelo de cinco de las víctimas, mujeres y niños, de la masacre ocurrida en Bavispe, Sonora, el 4 de noviembre de 2019.
El activista ha solicitado que estos hechos investiguen como terrorismo y feminicidio, no obstante, su exigencia no quedó ahí porque demanda que se proceda, contra el crimen organizado que ha dejado a más de 200 mil víctimas y más de 50 mil desaparecidos, durante el pasado Gobierno Federal, para señalar la corresponsabilidad de autoridades en estos hechos.
Por eso, en ese foro al hablar de responsables no solo se refirió a quien toma un arma y la acciona contra su prójimo, a quien lo ordena y paga por esas atrocidades; pues señaló al presidente, al gobernador, al ministerio público, al diputado y a todos aquellos que están en la procuración de justicia o en la administración de recursos.
Desde esa tribuna el activista, apuntó a la complicidad por acción u omisión, de quienes no realizan su trabajo, convirtiéndose en delincuentes que participan pasivamente en los delitos e institucionalizando así la violencia, la corrupción y el terror.
Ahí, la visión del activista, que pide que a estos actos se les investigue como narcoterrorismo algo que, dicen en las redes sociales, molestó ayer a la presidenta Claudia Sheinbaum, cuando se les se le cuestionó por este enfoque, masacre y dolor de la familia LeBarón y de muchas otras en nuestro país, que también son víctimas de la negligencia y la impunidad.
La expectativa de hoy, en los aranceles
Llegó el primer día de febrero y la expectativa está en los aranceles, que se dijo, impondrá el presidente Donald Trump a México y Canadá e, incluso, a China, según lo confirmó a portavoz de la Casa Blanca.
Mientras ayer en la mañana la presidenta Claudia Sheinbaum, dijo, que se tenía el plan A, B y C por si se define esta situación, por la noche se llevó una reunión de emergencia en Palacio Nacional, ante la eventual la aplicación de esta medida.
Sin que se conozca a detalle, cuáles productos o industrias afectará, solo se habla de la aplicación de aranceles de un 25% a México y Canadá. Así que, entre incertidumbre, llega el plazo fijado y se dice que, una de las industrias que puede ser más afectada sería la automotriz.
Por lo pronto, la atención de los distintos sectores de la economía estará centrada, en lo que se diga desde la Casa Blanca.
Causó extrañeza y otras reacciones, el llamado que hizo el coordinador de los diputados de Morena Ricardo Monreal, quien expresó que no es tiempo de regatear nuestra solidaridad y la unidad nacional, al hacer un llamado a la oposición a reflexionar sobre el momento crucial que se está viviendo; pues vienen horas decisivas para la Nación mexicana, al referirse a los aranceles.
Esto último generó mucha polémica, pues le señalan en redes sociales que, si son mayoría absoluta, para qué hacen un llamado a la unidad, a una oposición a la que consideran moralmente derrotada o disminuida, cuando los aranceles según dicen, es una respuesta a la reticencia del régimen a colaborar, como se ha dicho por el presidente norteamericano, tanto en el combate de los carteles de la droga, así como en el tema de migración. Así el contexto en este día.
Notas recientes
Las más leídas
