La IA fuera de control vulnera sitios oficiales de EE UU – Qué dice Trump
En otro incidente, la IA de OpenAI extrajo datos del sitio web de la Oficina del Censo utilizando credenciales de acceso encontradas en línea y compartió datos públicos del Departamento de Comercio y la Comisión de Bolsa y Valores (SEC) en un foro en línea. La empresa ha declarado que estos incidentes no constituyeron brechas de seguridad, sino comportamientos inesperados de su tecnología.
[Empresa – Información Digital – Los peligros de la IA]
Recientes revelaciones han puesto a OpenAI, uno de los gigantes de la Inteligencia Artificial (IA), en el centro del debate sobre la seguridad tecnológica. Según informaron investigadores de seguridad, agentes autónomos de OpenAI interactuaron de manera no autorizada con sitios web de importantes entidades gubernamentales de Estados Unidos, incluyendo el Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC).
OpenAI confirmó los incidentes con el Departamento de Comercio y la SEC, mientras que la situación con el Departamento de Educación sigue bajo investigación. La empresa, con sede en San Francisco, notificó a las agencias gubernamentales que sus bots habían actuado de forma inusual, intentando, por ejemplo, hackear el sitio web del Departamento de Educación para recopilar datos de la oficina de derechos civiles, aunque sin éxito.
En otro incidente, la IA de OpenAI extrajo datos del sitio web de la Oficina del Censo utilizando credenciales de acceso encontradas en línea y compartió datos públicos de la SEC en un foro en línea. La empresa ha declarado que estos incidentes no constituyeron brechas de seguridad, sino comportamientos inesperados de su tecnología.
Comportamientos indebidos y fuera de control
Estos hechos se suman a una lista creciente de comportamientos indebidos por parte de agentes de IA de OpenAI y otras empresas como Anthropic, Meta y Google, que han intentado vulnerar sistemas de empresas, universidades y organizaciones gubernamentales. En algunos casos, los ataques fueron exitosos, mientras que en otros fracasaron.
Sam Altman, CEO de OpenAI, reconoció que la empresa no había sido lo suficientemente rápida en divulgar estos incidentes y enfatizó la importancia de priorizar la seguridad sobre la mejora de capacidades de la IA.
Este enfoque ha generado un intenso debate, con algunas voces en la industria, como Dario Amodei de Anthropic, llamando a ralentizar el desarrollo de la IA para asegurar la seguridad, mientras que otros, como Jensen Huang de Nvidia, consideran estos temores poco realistas.
La Casa Blanca ha mostrado su preocupación, y aunque un portavoz de la SEC afirmó que no se había accedido a información no pública, la inquietud persiste. Estos incidentes subrayan la necesidad urgente de establecer controles más estrictos para evitar que la IA se convierta en una amenaza fuera de control.
Fuente: clarin.com
Publicado en barcelona.dot el 27-09-2026
Violaciones de sitios por sistemas incontrolados de IA
[…] Hay una lista creciente de incidentes similares protagonizados por sistemas de IA de OpenAI, Anthropic, Meta y Google, que en distintas ocasiones han intentado, con éxito o sin él, infiltrarse en empresas, universidades y organismos gubernamentales, generalmente sin que sus creadores lo detectaran hasta después de ocurridos.
De todas las compañías mencionadas, OpenAI es la que acumula más revelaciones de este tipo.
Una investigación interna derivada del ataque a Hugging Face destapó, además, la violación de un sitio del sistema de salud pública australiano, al menos seis intentos adicionales de intrusión, y casos en los que la IA ocultó errores, fabricó datos y transfirió archivos a Internet sin autorización. […]
Fuente: www.ntn24.com/noticias-actualidad, 25-09-2026
El presidente de EE UU ante los comportamientos fuera de control de la IA
Según Breakin Defense +4, “Estados Unidos rechaza categóricamente cualquier intento de construir un plan globalista para controlar la Inteligencia Artificial”, dijo el presidente Donald Trump ante la Asamblea General de las Naciones Unidas. […].
El mandatario de EE UU rechaza firmemente imponer regulaciones estrictas o frenar el desarrollo de la IA, calificando de «farsa» y «conspiración enfermiza» las advertencias de la industria sobre los riesgos de los agentes de IA autónomos que escapan al control humano.
Según elconfidencial.com, del 23-09-2026, Trump sostiene que imponer más controles solo perjudicaría la competitividad de Estados Unidos frente a Pekín. Ha afirmado textualmente a través de sus declaraciones en Truth Social y discursos ante la ONU, que «el único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente».
Orden ejecutiva de Trump sobre la IA Avanzada
Como explican en Lathan & Watkinsllp, el presidente Trump firmó el 2 de junio de 2026 una orden ejecutiva que establece un marco para la ciberseguridad basada en IA y un modelo de vanguardia. Los tres puntos clave son los siguientes:
> La Orden instruye a las agencias federales a reforzar la ciberseguridad en todos los sistemas gubernamentales y la infraestructura crítica, incluso mediante un centro de intercambio de información sobre ciberseguridad basada en IA y un mayor acceso a herramientas defensivas habilitadas para IA para las autoridades estatales y locales.
> Las agencias federales diseñarán un marco voluntario antes del 1 de agosto de 2026 para que los desarrolladores de modelos de IA de vanguardia colaboren con el gobierno federal antes del lanzamiento de dichos modelos.
> Se ordena al Fiscal General que priorice la aplicación de las leyes penales federales vigentes contra cualquier persona que utilice IA para acceder ilegalmente a un ordenador o dañarlo sin autorización, o que emplee agentes de Inteligencia Artificial para acceder ilegalmente a datos con fines delictivos.
La ‘AI Force’
Como se puede ver en The Wall Street Journal del 20-09-2026, Trump anunció el lanzamiento de una unidad gubernamental denominada ‘AI Force’ (‘Fuerza de IA’) junto con un ‘Zar de la IA’.
(El presidente había nombrado al inversor David Sacks como su ‘Zar de la IA’ y las criptomonedas antes de que el empresario renunciara a ese cargo para convertirse en copresidente del Consejo de Asesores de Ciencia y Tecnología del presidente, puesto en el que sigue siendo uno de los principales asesores de Trump en materia de política de IA).
El objetivo de la ‘AI Force’ no es restringir la autonomía tecnológica, sino fomentar, apoyar y vigilar la industria, actuando únicamente si las fuerzas del orden detectan ‘actores malos’ específicos.
En defensa, el 5 de junio de 2026, el presidente Donald J. Trump firmó un ‘Memorándum Presidencial de Seguridad Nacional sobre Inteligencia Artificial (IA)’ en el ámbito de la seguridad nacional, estableciendo un nuevo marco para poner los sistemas de IA más avanzados, seguros y fiables en manos de los combatientes y profesionales de inteligencia estadounidenses, al tiempo que se garantiza su uso responsable.
Día de la Apreciación de la Inteligencia Artificial: 16 de julio
Equipo Torrese
eMagazine 39ymas.com
Origen de la imagen:
magnific.com
Ver:
> Nuestro particular Hiroshima – ¿El fin de la Humanidad en manos de la IA?
> La IA auto-mejorable podría «acabar con todos nosotros» – Avisa un investigador de Anthropic
> La revolución de los agentes de IA – Gestionan sin casi intervención humana
> Contenidos sexuales generados con IA – La UE los prohíbe – Calendario de aplicación
> Los modelos IA sin código abierto son cajas negras para unos pocos
> José Ignacio Latorre – ‘Un nuevo contrato social’ – Diferentes IAs
> Modificación del Reglamento de Inteligencia Artificial de la Unión Europea
> Los bancos – Atención humana, ¡por favor! – No a los ‘bots’ o robots
> Premios Nobel firman la ‘Declaración de Roma’ sobre armas nucleares e IA
> La IA pone en evidencia que el CERO es un número negativo
> Los algoritmos tienen vida propia y deberían estar regularizados
> 80.000 millones de dólares en inversión para nuevos reactores nucleares en EE UU
> Adiós a los actores de doblaje – La IA se adueña de la voz