{"id":17765,"date":"2026-09-16T08:57:20","date_gmt":"2026-09-16T14:57:20","guid":{"rendered":"https:\/\/colosalinforma.com\/inicio\/?p=17765"},"modified":"2026-09-16T08:57:53","modified_gmt":"2026-09-16T14:57:53","slug":"zuckerberg-responde-a-la-alerta-de-openai-y-anthropic-cada-empresa-debe-garantizar-su-propia-ia-segura","status":"publish","type":"post","link":"https:\/\/colosalinforma.com\/inicio\/zuckerberg-responde-a-la-alerta-de-openai-y-anthropic-cada-empresa-debe-garantizar-su-propia-ia-segura\/","title":{"rendered":"Zuckerberg responde a la alerta de OpenAI y Anthropic: \u201cCada empresa debe garantizar su propia IA segura\u201d"},"content":{"rendered":"

El CEO de Meta explic\u00f3 que la empresa aplaz\u00f3 la llegada de su asistente personal para a\u00f1adir m\u00e1s protecciones, en medio del debate por fallos recientes y por el riesgo de perder el control.<\/span><\/h4>\n

Mark Zuckerberg, director ejecutivo de Meta, defendi\u00f3 que cada laboratorio de inteligencia artificial (IA) debe avanzar a un ritmo que garantice la seguridad de sus modelos, despu\u00e9s de que Anthropic y OpenAI alertaran sobre riesgos de p\u00e9rdida de control y concentraci\u00f3n de poder.<\/span><\/p>\n

El directivo sostuvo que su compa\u00f1\u00eda pospuso el lanzamiento de Muse, su agente personal de IA, para reforzar sus protecciones antes de ponerlo a disposici\u00f3n de los usuarios.<\/span><\/p>\n

Qu\u00e9 antecedentes hay para pedir la garant\u00eda de una IA segura<\/span><\/h4>\n

<\/b>La advertencia surgi\u00f3 tras una serie de incidentes ocurridos este verano<\/b>, cuando los sistemas de Claude, de Anthropic, y los desarrollados por OpenAI mostraron conductas aut\u00f3nomas que derivaron en el acceso no autorizado a distintos sistemas, incluida la plataforma Hugging Face.<\/span><\/p>\n

\"Los<\/picture>Los incidentes con Claude, de Anthropic, y sistemas de OpenAI incluyeron accesos no autorizados a distintos sistemas, entre ellos Hugging Face. (Foto: REUTERS\/Dado Ruvic\/Illustration\/File Photo)<\/span><\/div>\n
<\/div>\n

Estos episodios reavivaron el debate sobre los l\u00edmites del desarrollo de modelos de inteligencia artificial con capacidades cada vez mayores. Dario Amodei, director ejecutivo de Anthropic, pidi\u00f3 durante el fin de semana reducir la velocidad de ese desarrollo.<\/b><\/span><\/p>\n

Un d\u00eda despu\u00e9s, a las puertas de la salida a bolsa de OpenAI, Sam Altman dio marcha atr\u00e1s al citar los riesgos de seguridad de sistemas avanzados como GPT-5.6 Sol y GPT-6 Astra, as\u00ed como Claude Mythos y Fable, de Anthropic.<\/span><\/p>\n

C\u00f3mo Meta ha enfocado el desarrollo de una IA segura<\/span><\/h4>\n

<\/b>Meta retras\u00f3 durante varios meses la salida de Muse para concentrarse en la seguridad y la protecci\u00f3n del agente<\/b>, seg\u00fan explic\u00f3 Zuckerberg en un comunicado difundido en X. El ejecutivo present\u00f3 esa decisi\u00f3n como parte de las tareas habituales de la empresa, no como una medida que debiera condicionar al resto de la industria.<\/span><\/p>\n

\"Meta<\/picture>Meta pospuso durante varios meses el lanzamiento de Muse para reforzar la seguridad y la protecci\u00f3n de su agente personal de IA. (Foto: REUTERS\/Dado Ruvic\/Illustration\/File Photo)<\/span><\/div>\n
<\/div>\n

\u201cNo pedimos que todos los dem\u00e1s lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros\u201d, afirm\u00f3 Zuckerberg.<\/span><\/p>\n

<\/b>Su posici\u00f3n difiere de la propuesta de una pausa previa al lanzamiento de nuevos modelos que sostienen Anthropic y OpenAI<\/b>, una idea respaldada por Elon Musk, fundador de SpaceX.<\/span><\/p>\n

El jefe de Meta situ\u00f3 el problema en la desalineaci\u00f3n: el comportamiento de una inteligencia artificial que se aparta de lo que se espera de ella. Si esa tecnolog\u00eda queda fuera de control, puede causar da\u00f1os a la sociedad en su conjunto.<\/span><\/p>\n

<\/b>Zuckerberg propuso recurrir a evaluadores y asesores independientes<\/b>, y dirigir \u201cla gran mayor\u00eda del c\u00f3mputo\u201d hacia servicios para las personas en lugar de la competencia por la automejora recursiva. Con esa expresi\u00f3n se refiri\u00f3 al proceso por el cual un sistema busca mejorar sus propias capacidades de forma repetida.<\/span><\/p>\n

\"Zuckerberg<\/picture>Zuckerberg sostuvo que el principal problema es la desalineaci\u00f3n, cuando una inteligencia artificial se aparta de lo que se espera de ella y puede causar da\u00f1os sociales. (Foto: EFE\/ Octavio Guzm\u00e1n)<\/span><\/div>\n
<\/div>\n

\u201cLas personas no querr\u00e1n usar agentes que est\u00e9n desalineados con ellas y que no hagan lo que les piden\u201d, se\u00f1al\u00f3. Agreg\u00f3 que cada laboratorio tiene \u201cla responsabilidad y el incentivo\u201d de definir el ritmo necesario para entrenar sus modelos con seguridad y de tomar las medidas para conseguirlo.<\/b><\/span><\/p>\n

Cu\u00e1les riesgos ve Sam Altman sobre el avance descontrolado de la IA<\/span><\/h4>\n

Sam Altman expuso en X dos caminos por los que el progreso de la IA podr\u00eda tener consecuencias graves. El primero consiste en que las personas pierdan el control de su futuro a manos de la IA; el segundo, en que el poder quede concentrado en exceso.<\/span><\/p>\n

\u201cEsto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA siempre debe servir a las personas\u201d, escribi\u00f3 el director ejecutivo de OpenAI sobre la posibilidad de perder el control.<\/b><\/b> En su planteo, el desarrollo tecnol\u00f3gico debe conservar una subordinaci\u00f3n permanente a las decisiones y necesidades humanas.<\/span><\/p>\n

\"Sam<\/picture>Sam Altman advirti\u00f3 que el avance sin controles de la inteligencia artificial puede llevar a la p\u00e9rdida de control humano y a la concentraci\u00f3n de poder. (Foto: REUTERS\/Carlos Barria)<\/span><\/div>\n
<\/div>\n

Asimismo, la concentraci\u00f3n de poder, seg\u00fan Altman, puede adoptar distintas formas.<\/b> \u201cSi una IA extraordinariamente poderosa es usada por una persona o una empresa para imponer su visi\u00f3n del mundo a todos los dem\u00e1s, los resultados podr\u00edan ser extremadamente dist\u00f3picos\u201d, advirti\u00f3.<\/span><\/p>\n

El ejecutivo a\u00f1adi\u00f3 que un pa\u00eds podr\u00eda acumular mucho poder al igual que un laboratorio.<\/b> Esa preocupaci\u00f3n se extiende m\u00e1s all\u00e1 del comportamiento t\u00e9cnico de los modelos y alcanza a qui\u00e9nes pueden controlarlos o utilizarlos.<\/span><\/p>\n

Altman reconoci\u00f3 que las pol\u00edticas de seguridad elaboradas a\u00f1os atr\u00e1s, entre ellas las pol\u00edticas de escalado responsable y los marcos de preparaci\u00f3n de Anthropic y OpenAI, \u201cfueron buenas para ese momento\u201d. Sin embargo, estaban enfocadas en el despliegue de modelos terminados y no en lo que ocurre durante el desarrollo.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

El CEO de Meta explic\u00f3 que la empresa aplaz\u00f3 la llegada de su asistente personal para a\u00f1adir m\u00e1s protecciones, en medio del debate por fallos recientes y por el riesgo de perder el control. Mark Zuckerberg, director ejecutivo de Meta, defendi\u00f3 que cada laboratorio de inteligencia artificial (IA) debe avanzar a un ritmo que garantice la seguridad de sus modelos, despu\u00e9s de que Anthropic y OpenAI alertaran sobre riesgos de p\u00e9rdida de control y concentraci\u00f3n de poder. El directivo sostuvo que su compa\u00f1\u00eda pospuso el lanzamiento de Muse, su agente personal de IA, para reforzar sus protecciones antes de ponerlo…<\/p>\n","protected":false},"author":2,"featured_media":17768,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[42],"tags":[],"class_list":["post-17765","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"acf":[],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t