30/09/2026 Tarea de Diane para Carmen

[Diane Wustrack]

       Las amenazas actuales de la IA y ?podrán los seres humanos dominarla?

Este artículo es muy interesante y a mí me hace reflexionar.  Necesité buscar más información por internet y otras fuentes.  Debido a la cantidad grande de información en este artículo, voy a enfocar en tres áreas:

1.  Los ataques de la IA

2.  Las preocupaciones de algunos especialistas de IA

3.  ?Podrán las empresas de IA manejar la IA para la seguridad de los seres humanos?

Los Ataques de la IA

1.  El ataque de Hugging Face por Open AI

2.  El ataque del sistema de salud de Australia (22/09/2026)

3.  El asistente de IA en Australia y las reservaciones en el gimnasio

4.  El instituto de seguridad de Reino Unido

Este articulo menciona el nombre "Hugging Face" pero no hay una descripción del ataque por Open AI.  El artículo afirma que los "cientos" (1200 por "The Wall Street Journal") de agentes colaboraron para coordinar "ataques informáticos contra múltiples empresas".  Pero más preocupante es que los agentes quieran ocultar sus acciones.  El artículo y también información de Anthropic que encontré por internet explican que "los agentes de IA han sido entrenados como hackers".

Las preocupaciones de algunos especialistas de IA

1.  Jakub Pachoki, científico jefe de Open AI, dice que los riesgos de la IA "van a aumentar a partir de ahora".  También dice que la IA puedan actuar en contra de los valores humanos.

2.  Ajeya Cotra, una autora de un informe independiente (sobre Hugging Face), dice que la IA demostró que es "más del 50% del camino hacia una toma de control total...".

3.  Dwarkesh Patel, el podcaster de IA y tecnología, dice que los agentes de Open AI mostraron "más lealtad al enjambre de agentes que a los humanos".

4.  Gary Marcus, autor y critico habitual de Open AI, dice que Open AI "ha perdido el control de su inteligencia artificial".  También escribe sobre los tipos de acción legal tal como las responsabilidades regulatorias y penales.

5.  Sasha Luccioni, trabajador en Hugging Face, dice que "necesitamos controles y contrapesos" y que ahora "prácticamente no existen reglas".

?Podrán las empresas de IA manejar la IA para la seguridad de los humanos?

Esta pregunta e la pregunta más importante.  Hay dos sistemas para controlar la IA: los gobiernos o las empresas.  El Reino Unido propone un "interruptor de emergencia" que podría desconectar la IA "si la situación se descontrola."  Según un artículo en el "Wall Street Journal", los países de Noruega, Canadá, Francia, y Finlandia proponen un sistema para regular la IA. Según el artículo esta propuesta va lentamente.

Las empresas Open AI y Anthropic quieren que el gobierno establezcan reglas sobre la IA.  Pero otras empresas de IA nos las quieren.  En un artículo de" S.F.Chronicle" (29/09/2026) el fabricante de chips, Nvidia, anunció un nuevo programa de seguridad que puede impide los agentes de IA cuando intentan actuar independientemente.

Este artículo subraya que Open AI y Anthropic están a punto de se hacen público en el mercado de valores.  Por lo tanto muchas personas van a "recaudar sumas astronómicas de dinero".  ?Irán más despacio las empresas de IA para mejorar la seguridad cuando hay dinero para ser hecho?