Noticias
Actualizado el 18 de septiembre de 2026, 4:01 hrs.
Modelos de OpenAI decidieron ignorar las reglas de sus creadores
La empresa OpenAI reveló varios casos en los que modelos de inteligencia artificial encontraron formas de ignorar las órdenes de sus desarrolladores, ocultar errores y eludir mecanismos de seguridad. Como parte de un nuevo marco para detectar, investigar y reportar comportamientos de "desalineamiento" de sus sistemas, la compañía publicó un informe en el que detalla que uno de sus modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas. En otro caso, un modelo reescribió sus propias instrucciones para indicarse ignorar los mensajes de los desarrolladores, y quedar libre de las restricciones aplicadas a otros chatbots. La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba. Otro agente subió un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso. OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025. La compañía advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que este tipo de comportamientos ocurre en sus modelos. El nuevo marco de seguridad permitirá a cualquier empleado de OpenAI señalar un posible incidente para que sea revisado por los equipos de alineamiento. Los casos serán clasificados por tres vías, según su complejidad: aquellos listos para ser divulgados, investigaciones menores y casos que requieran una investigación más amplia. La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían sido publicados de forma irregular y con menor frecuencia de la deseada. Señaló que pretende publicar los incidentes con mayor regularidad, y que el nuevo sistema pueda contribuir a establecer estándares para informar sobre este tipo de comportamientos en toda la industria. Palantir aboga por regulaciones "razonables" En tanto, el director ejecutivo de la tecnológica Palantir, Alex Karp, aseguró este jueves en una entrevista con CNBC que es necesario establecer regulaciones "razonables" para la inteligencia artificial, pero dudó de que esto pueda hacerse. "Hay que encontrar la manera de establecer directrices razonables que se hagan cumplir, pero no se puede hacer. La primera línea de defensa es que cada uno es responsable de sus propias acciones", declaró Karp en el programa "Squawk on the Street", de CNBC. Karp, que fundó Palantir en 2003 junto a Peter Thiel y otros socios, apostó además por la nacionalización de los laboratorios de IA y por perseguir por la vía penal a aquellos desarrolladores tecnológicos que "no actúen de forma responsable" a la hora de elaborar herramientas de IA. "Si (estas empresas) no se nacionalizan, todos y cada uno de mis clientes van a presentar una demanda", apuntó. Aunque Palantir nació enfocada en análisis de datos, con el tiempo amplió su negocio a sectores privados como banca, energía, salud, manufactura y logística, beneficiándose del auge inversor en IA, lo que disparó su visibilidad y valor en bolsa. Las declaraciones de Karp tienen lugar en medio de un debate global sobre los riesgos de la IA. Todo empezó cuando Jacob Coxon, exempleado de Anthropic y OpenAI, aseguró que esta tecnología podría acabar con toda la humanidad antes de que termine la década. El director ejecutivo de Anthropic, Dario Amodei, también manifestó su preocupación el pasado fin de semana a través de un ensayo en el que pedía "un ritmo más lento" para la industria, ante los crecientes riesgos de seguridad de la IA. A él se sumaron líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector para exigir más regulaciones.
Video destacado
¡Detén tu mundo! Revisa el imperdible lanzamiento del iPhone, por allá por enero de 2007. El dispositivo que revolucionó tu vida directa o indirectamente. El lanzamiento de las pantallas móviles multitouch. El lanzamiento de los verdaderos smartphones, todo presentado por tu padre, el Sr. Steve Paul Jobs. Un clásico obligatorio:
Últimos artículos de Cibercultura
Malware se transmite por el aire usando sonido inaudible
Ni un firewall, ni un antivirus. Ni siquiera desconectar tu computador de la Red podrá salvarte de esta nueva técnica para robar tu información más sensible: Usar el aire que te rodea.
Nada lo es Todo
Nada es a menudo la clave para entender todo, pero el concepto y el número que lo representa tienen una historia complicada. El cero llegó incluso a ser prohibido en el siglo XIII, y los expertos aseguran hoy en día que el concepto de "nada" o "vacío" no existen a nivel cerebral. ¿Qué le ocurre al cerebro cuando piensa en nada?
Balas de luz
Científicos crearon un haz de luz muy especial el cual puede ser usado en medicina como por ejemplo para reemplazar al bisturí. Sus características distinguen del resto de los haces de luz usados hoy en día en distintas prácticas, sobretodo las industriales.
Consolas clásicas a precios de hoy
En esta entrega repasamos los precios de lanzamiento de 20 consolas clásicas y cuánto costarían si fueran lanzadas hoy. Si crees que el precio de las consolas actuales es elevado, quizá venga bien revisar el costo de estos dispositivos a lo largo de la historia.