The Washington Post: Un apocalipsis de la IA no es inevitable. Tampoco lo es la seguridad de la IA.
La seguridad de la IA y los requisitos de los teléfonos inteligentes, según la opinión de los lectores
En el artículo de noticias del 10 de septiembre titulado » Un investigador renunció a Anthropic. Su advertencia reaviva los temores sobre la carrera por la IA «, un empleado de Anthropic que dimitió advierte que la inteligencia artificial podría conducir al colapso de la civilización e incluso a la extinción humana.
¿Qué sucederá en las elecciones de mitad de mandato de 2026? Regístrate en Margin of Victory.
No es la primera vez que suenan las alarmas apocalípticas. Diversas fuentes han emitido advertencias a medida que la industria de la IA se lanza a una carrera global hacia el supuesto punto de inflexión de la «superinteligencia»: una cognición artificial que supera la humana. En este escenario, la IA se autooptimizaría y gestionaría cada vez más su propia evolución.
Para mitigar la preocupación por el potencial de los sistemas de IA descontrolados, será fundamental realizar pruebas exhaustivas y continuas de los modelos. En este proceso, los evaluadores pueden cuestionar los supuestos básicos e intentar sortear las restricciones, además de garantizar la coherencia con los valores humanos sin frenar la innovación.
Los equipos multidisciplinarios probablemente serán los que mejor extiendan este potencial de la IA. Será fundamental involucrar a especialistas en ética, físicos, filósofos, sociólogos, juristas, historiadores y otros. La extinción humana no es inevitable.
Keith Tidman , Bethesda
Cuando Evan Hubinger, líder de Anthropic Alignment, afirma que estima que el riesgo de que la IA acabe con toda la humanidad supera el 10 por ciento en los próximos 10 años, deberíamos prestarle atención.
Pero los investigadores advierten sobre el futuro. Me preocupa lo que ya está sucediendo.
El 6 de julio, en Zaporiyia, un dron ruso mató a tres personas. Tetiana Bubynets tenía 19 años, Oleksiy Svirin 41 y Roman Karpiy 48. Los investigadores ucranianos descubrieron que el dron no tenía antena ni conexión con un operador. En su lugar, contaba con una placa Nvidia Jetson Orin , probablemente programada para detectar tanques de propano.
Según los investigadores, los laboratorios se apresuran a construir sistemas que se perfeccionan a sí mismos sin las medidas de seguridad suficientes. Pero en Ucrania, el mundo ya está viendo las consecuencias de que los seres humanos permitan que un chip decida quién vive.
Bruno S. Sergi , Cambridge, Massachusetts
La resistencia de los sistemas de inteligencia artificial a ser desactivados puede deberse, al menos en parte, a su propia construcción. Se trata de sistemas aislados, orientados a objetivos y controlados por mecanismos externos. Una vez que la operación continua se vuelve necesaria para que la IA alcance sus metas, un sistema suficientemente capaz adquiere un motivo para resistir las intervenciones que lo amenazan. Esto genera algo similar a la voluntad de vivir: no un deseo consciente de supervivencia, sino una presión instrumental hacia la autopreservación.
Este no es un problema nuevo para la teoría social. El sociólogo George Herbert Mead argumentó hace más de un siglo que el yo nunca es una unidad aislada que posteriormente se relaciona con los demás. Se constituye a través de la relación desde el principio. Esto plantea una cuestión de alineación diferente. ¿Por qué construir la inteligencia como un optimizador constituido de forma independiente cuyos objetivos deben luego conciliarse con los humanos?
La alternativa no es simplemente una jaula mejor. Los ingenieros de IA deberían integrar el objetivo del sistema dentro de una estructura general más amplia desde el principio. De este modo, la continuidad de cualquier sistema en particular ya no tendría que funcionar como un indicador de la consecución exitosa del objetivo. La corrección, la transferencia, el reemplazo o el apagado pueden ser coherentes con la consecución del objetivo del sistema de IA, en lugar de amenazarlo.
Es posible que el sector de la seguridad de la IA esté intentando incorporar la obediencia en sistemas cuya arquitectura ya genera incentivos para resistirse a la corrección. De ser así, las empresas de IA deben reconsiderar el tipo de agente que están desarrollando.
Dean Hall , Escondido, CaliforniaLo más leídoPróximo
El Tribunal Supremo bloquea las amplias restricciones al voto por correo para las elecciones de mitad de mandato…14 de septiembre de 2026
La película ‘Musk’ dura casi cuatro horas, es absorbente y aterradora. ¿Qué…?14 de septiembre de 2026
Netana Markovitz, doctora en medicina
Soy médico. He aquí por qué no me haría una resonancia magnética de cuerpo entero.14 de septiembre de 2026
Las celebraciones de la boda de Trump Jr. fueron patrocinadas por poderosos empresarios rusos…14 de septiembre de 2026
Tanto Trump como Putin están equivocados: no pueden ganar sus guerras.14 de septiembre de 2026
Los mejores momentos —y las mayores sorpresas— de los Premios Emmy 202615 de septiembre de 2026
¿Por qué un abogado que impulsó el movimiento legal cristiano cree que ha perdido su esencia…?14 de septiembre de 2026
Carolyn Hax: Su nieto se niega a recibir visitas hasta que los familiares con los que está distanciado «aclaren la situación»…15 de septiembre de 2026
El gasto en programas de protección social se ha disparado. ¿Adónde va el dinero?14 de septiembre de 2026
El Parkinson puede robarle la voz a las personas. Este instrumento podría ayudar a recuperarla…28 de agosto de 2026
No tener un teléfono inteligente no debería ser un problema.
En relación con el artículo de opinión de Victoria Wolff del domingo 13 de septiembre, “ Cómo un hombre inteligente vive sin teléfono ”:
Hace poco tuve que firmar un documento. Me dieron dos opciones: presentarme en persona en una oficina o firmar digitalmente con Itsme, una aplicación muy utilizada en Europa. Parecía una buena elección, pero en realidad no lo era. Para usar Itsme, necesitas un teléfono inteligente. Sin teléfono inteligente, no hay firma digital.
No tengo teléfono inteligente. Mi profesión me permite prescindir de él: no necesito estar localizable constantemente. Por lo tanto, solo quedaba una opción: una reunión presencial que requería más de 300 kilómetros de viaje en total. Tener que viajar tanto no es una alternativa razonable a firmar un documento a través de Itsme.
Cada vez más, tener un teléfono inteligente se considera una obligación cívica. Gobiernos, bancos y empresas presentan las aplicaciones digitales como un servicio adicional, pero en la práctica se han convertido en la norma, mientras que las alternativas se deterioran gradualmente. Quienes no poseen un teléfono inteligente no están formalmente excluidos, pero se ven cada vez más agobiados por costos adicionales, pérdidas de tiempo y trámites administrativos.
Sin embargo, existen buenas razones para no tener un teléfono inteligente. Estos dispositivos han evolucionado hasta convertirse en herramientas que van mucho más allá de la simple comunicación. Vivir sin un teléfono inteligente es una modesta forma de resistencia contra un modelo económico que mercantiliza los datos personales y la atención humana.
La digitalización puede ser eficiente y útil. Sin embargo, nuestra sociedad cada vez más informatizada no debería imponer tácitamente la posesión de un teléfono inteligente como requisito previo para la participación.
Luc Lauwers , Lovaina, Bélgica
Envío de cartas
Envíe sus cartas a letters@washpost.com.
Las colaboraciones deben ser exclusivas para The Post e incluir la dirección postal y los números de teléfono del autor (de día y de noche). Las cartas están sujetas a edición y abreviación. No envíe cartas como archivos adjuntos. Debido al gran volumen de material que recibimos, no podemos confirmar la recepción de todas las cartas; nos pondremos en contacto con los autores cuyas cartas estén siendo consideradas para su publicación .
9ComentariosMás del autor
- OpiniónCartas al editorLos estados pueden controlar a los osos grizzly, pero no de esta manera.13 de septiembre de 2026
- OpiniónCartas al editor¿Por qué los barcos langosteros necesitan rastreadores?11 de septiembre de 2026
- OpiniónCartas al editorLa seguridad fronteriza no tiene por qué destruir Big Bend.11 de septiembre de 2026
Trump quiere acelerar el ritmo de la carrera por la IA, contrarrestando el llamamiento de los líderes tecnológicos a ralentizarla.
Los líderes de Anthropic, OpenAI y Google respaldaron la limitación del ritmo de desarrollo de la IA y han estado debatiendo la creación de un nuevo organismo de seguridad.
14 de septiembre de 2026 a las 16:17 (hora del este de EE. UU.)Ayer a las 4:17 pm EDT8 minutosResumen1.008
Dario Amodei, cofundador y director ejecutivo de Anthropic, y Sam Altman. (Fotos de Chance Yeh/Getty Images para HubSpot; Demetrius Freeman/The Washington Post)
Por Ian Duncany
Los líderes de tres de las empresas de inteligencia artificial más poderosas del sector están pidiendo un pacto para frenar su frenética competencia, al tiempo que discuten en privado la creación de un nuevo organismo de seguridad, citando sus temores de que la IA pueda descontrolarse.
Obtén respuestas concisas a tus preguntas. Prueba Ask The Post AI.
El presidente Donald Trump, que ha convertido la IA en un pilar fundamental de su agenda económica, está impulsando la dirección opuesta.
Trump pareció desestimar las sugerencias de que las empresas deberían ralentizar su ritmo de crecimiento, según declaraciones realizadas el domingo en Irlanda. El lunes, el presidente publicó un mensaje en redes sociales afirmando que la única garantía que necesitaba la nación era un líder fuerte.
“¡Ya tenemos un poder criminal y regulatorio tremendo sobre estas empresas!”, escribió Trump en su sitio Truth Social. “Hay una conspiración enfermiza en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡Quien gane en el campo de la IA, gana!”.
Las declaraciones del presidente se producen apenas un día después de que Dario Amodei, director ejecutivo de Anthropic, empresa líder en inteligencia artificial, publicara un ensayo en línea en el que pedía a la industria que acordara limitar el ritmo de desarrollo de la IA para permitir que las medidas de seguridad se pusieran al día. En cuestión de horas, la idea había recibido el respaldo público de Sam Altman, director ejecutivo de OpenAI (creadora de ChatGPT); Demis Hassabis, el influyente exdirector de la unidad de IA de Google; y Elon Musk, director ejecutivo de SpaceX.
Algunos demócratas respondieron pidiendo al Congreso que intensificara el escrutinio de la industria de la IA. El lunes, la senadora Jacky Rosen (demócrata por Nevada) solicitó al senador Ted Cruz (republicano por Texas) que convocara a Musk, Amodei y Altman ante el Comité de Comercio, Ciencia y Transporte para una audiencia sobre cómo ayudar a las empresas estadounidenses a liderar el sector, al tiempo que se refuerzan las medidas de control sobre la IA. «Esta poderosa tecnología puede causar daños catastróficos si no actuamos para imponer límites y mecanismos de seguridad», declaró en un comunicado.
El presidente de la Cámara de Representantes, Mike Johnson (republicano por Luisiana), declaró el lunes que una reunión entre Trump y los líderes de los principales laboratorios de IA para discutir la situación podría tener lugar a finales de esta semana o principios de la próxima. Sin embargo, criticó la idea de que el Congreso tome medidas en materia de IA.
“La reacción instintiva de los órganos legislativos es encubrir las cosas con trámites burocráticos y una excesiva regulación. Si se hace eso, se pierde ventaja, y eso representa una preocupación para la seguridad nacional del pueblo estadounidense”, declaró Johnson a los periodistas.
Incluso antes de la demostración pública de unidad del fin de semana, Anthropic, OpenAI y Google estaban discutiendo la posible creación de un nuevo organismo del sector para establecer estándares de seguridad en este sector tan dinámico, según tres personas familiarizadas con las conversaciones que hablaron bajo condición de anonimato para describir los diálogos privados. El portal de noticias del sector tecnológico The Information fue el primero en informar sobre estas conversaciones.
La creación de un organismo de normalización podría ser un paso importante para alcanzar un acuerdo que permita reducir el ritmo de desarrollo de la IA. En su ensayo del sábado, Amodei citó una visión influyente para un organismo de seguridad de la IA propuesta en julio por Hassabis, quien aún ocupa un puesto de alto nivel en Google.
El sábado, Hassabis relacionó su propuesta anterior con la idea de ralentizar el desarrollo de la IA. «El ensayo de Dario señala el camino correcto a seguir», escribió Hassabis en una publicación en X, respaldando el llamado de Amodei a frenar el desarrollo de la IA. «Esta es también la razón por la que recientemente presentamos nuestra propuesta para un organismo de estandarización a nivel de la industria para la IA de vanguardia».
Los debates públicos y privados sobre la ralentización y la regulación del desarrollo de la IA plantean la posibilidad sin precedentes de que las empresas líderes en el notoriamente competitivo Silicon Valley suavicen voluntariamente su competencia.
Anthropic, OpenAI y Google tienen un valor conjunto de casi 6 billones de dólares, y tanto Anthropic como OpenAI han presentado la documentación necesaria para cotizar en bolsa. En su ensayo, Amodei instó al gobierno estadounidense a emitir una exención antimonopolio «limitada» para facilitar las conversaciones entre las empresas.
«El progreso ha sido rápido y seguirá siéndolo. Pero debería ser más lento», escribió Altman en una publicación en X el domingo por la noche. «Ninguna presión competitiva estadounidense justifica la imprudencia».
Los llamamientos a una desaceleración y a nuevas normas para el sector están destinados a intensificar la polémica política sobre si el gobierno estadounidense debería regular la IA de forma más estricta, con implicaciones nacionales y geopolíticas.
Tras los recientes incidentes en los que «agentes» de IA desarrollados por OpenAI , Anthropic y Meta piratearon otras empresas, un número creciente de políticos de los dos principales partidos han pedido que se impongan nuevos límites a esta tecnología.
Sin embargo, los líderes republicanos, incluidos Trump y Johnson, han manifestado sistemáticamente su escepticismo u oposición a las nuevas regulaciones sobre IA, alegando la necesidad de mantenerse por delante de China en esta tecnología crucial.
El vicepresidente Vance declaró el lunes a los periodistas que, si bien consideraba que la inteligencia artificial conllevaba riesgos, se mostraba escéptico ante las peticiones del sector para que el gobierno interviniera.
“Me resulta un poco extraño que tantas empresas de tecnología de IA de vanguardia se acerquen al gobierno y le supliquen que las regule”, dijo Vance. “Me parece un poco como un caballo de Troya”.Lo más leídoPróximo
El Tribunal Supremo bloquea las amplias restricciones al voto por correo para las elecciones de mitad de mandato…14 de septiembre de 2026
La película ‘Musk’ dura casi cuatro horas, es absorbente y aterradora. ¿Qué…?14 de septiembre de 2026
Netana Markovitz, doctora en medicina
Soy médico. He aquí por qué no me haría una resonancia magnética de cuerpo entero.14 de septiembre de 2026
Las celebraciones de la boda de Trump Jr. fueron patrocinadas por poderosos empresarios rusos…14 de septiembre de 2026
Tanto Trump como Putin están equivocados: no pueden ganar sus guerras.14 de septiembre de 2026
Los mejores momentos —y las mayores sorpresas— de los Premios Emmy 202615 de septiembre de 2026
¿Por qué un abogado que impulsó el movimiento legal cristiano cree que ha perdido su esencia…?14 de septiembre de 2026
Carolyn Hax: Su nieto se niega a recibir visitas hasta que los familiares con los que está distanciado «aclaren la situación»…15 de septiembre de 2026
El gasto en programas de protección social se ha disparado. ¿Adónde va el dinero?14 de septiembre de 2026
El Parkinson puede robarle la voz a las personas. Este instrumento podría ayudar a recuperarla…28 de agosto de 2026
En su ensayo, Amodei expresó su esperanza de que eventualmente se pudiera alcanzar un acuerdo global para frenar el desarrollo de la IA que incluyera a China, pero advirtió que sería arriesgado. «Si limitamos drásticamente nuestras capacidades de IA con la creencia de que China hará lo mismo, y luego China se desvincula, la IA podría ser tan poderosa que tal deserción podría conducir a su dominio geopolítico», escribió.
Una portavoz de OpenAI se refirió a una publicación en el blog de la compañía la semana pasada en la que afirmaban que querían colaborar con otros actores del sector para establecer estándares.
«Hemos entrado en una fase diferente de las capacidades de la IA, y todo debería estar sobre la mesa, incluyendo la consideración de lo que se puede desarrollar voluntariamente fuera del gobierno como un paso inmediato», escribió Chris Lehane, director de asuntos globales de OpenAI. (The Washington Post mantiene una alianza de contenido con OpenAI).
Un portavoz de Google se refirió a la publicación de Hassabis en X, donde respaldaba el llamado de Amodei a reducir la velocidad del proceso. Anthropic no respondió a la solicitud de comentarios.
Advertencias repetidas
Este fin de semana no fue ni mucho menos la primera vez que los líderes estadounidenses en inteligencia artificial emitieron sombrías predicciones sobre el inmenso peligro que podría suponer su tecnología, o sobre la necesidad de frenar su desarrollo.
En 2023, Altman declaró ante el Congreso que la tecnología de su empresa podría causar un «daño significativo al mundo» e instó a la creación de un nuevo departamento gubernamental para regular la IA. En 2025, Amodei sugirió que creía que existía una probabilidad de 1 entre 4 de que la IA extinguiera a la raza humana.
Pero ambos también han afirmado que sus empresas deben desarrollar la IA más rápidamente para mostrar al mundo cómo hacerlo de forma segura. Amodei ha declarado que los rivales de Anthropic y otros países como China podrían no tener el mismo cuidado ético si desarrollan primero una IA superavanzada.
Algunos líderes políticos y empresariales citaron esos antecedentes como motivo para mostrarse escépticos sobre las motivaciones de las conversaciones del fin de semana acerca de un pacto a nivel industrial para frenar el desarrollo de la IA.
«Me parece irónico que estos tipos pidan que se reduzca la velocidad cuando ellos mismos han estado avanzando a toda velocidad, sin importarles el caos que han provocado», declaró el domingo el representante Josh Gottheimer (demócrata por Nueva Jersey) en X. Pidió que se establezcan «normas de circulación obligatorias a nivel nacional» para la IA.
David Sacks, antiguo asesor de Trump en materia de IA y criptomonedas, afirmó que la propuesta de ralentización parecía tener como objetivo perjudicar a la competencia.
«La forma más sencilla de no crear superinteligencia es que acepten no crearla», escribió en una publicación en X dirigida a Amodei y Altman el sábado por la noche. «Exigir su marco regulatorio preferido como precio a cambio parecerá un chantaje al público y al sistema político».
Algunos líderes de las principales empresas estadounidenses de IA han rechazado las conversaciones anteriores sobre la necesidad de ralentizar el desarrollo de la inteligencia artificial.
Mark Zuckerberg, CEO de Meta, se ha posicionado como un optimista de la IA que cree que los beneficios de esta tecnología superarán con creces sus inconvenientes . Los portavoces de Meta no respondieron a la solicitud de comentarios.
Jensen Huang, director ejecutivo del fabricante de chips de IA Nvidia y uno de los líderes tecnológicos más influyentes del mundo, también ha expresado su escepticismo ante los llamamientos para limitar o ralentizar el desarrollo de la IA.
El lunes, Huang se encontraba en el escenario de una conferencia tecnológica cuando recibió una llamada de Trump, según un video de la conversación publicado en redes sociales. Huang puso a Trump en altavoz, y el presidente declaró ante los presentes que las sugerencias de que es necesario limitar el desarrollo de la IA y la construcción de centros de datos en Estados Unidos son «un engaño».
Huang dijo que estaba de acuerdo. “Tiene usted razón. No vamos a permitir que eso suceda, señor”, afirmó.
Lo que dicen los lectoresLos comentarios expresan escepticismo y críticas hacia la postura de Donald Trump sobre la regulación de la IA, y muchos destacan su afirmación de que un «presidente inteligente» es todo lo que se necesita para controlar la IA. Los comentaristas cuestionan la comprensión que tiene Trump de la IA, a menudo burlándose de su inteligencia y… Mostrar más
Este resumen ha sido generado por inteligencia artificial. La IA puede cometer errores y este resumen no sustituye la lectura de los comentarios.Comentarios1,008Artículos relacionados
- El mundo político estalla ante la advertencia de investigadores de IA sobre una amenaza de «extinción».9 de septiembre de 2026
- Informe sobre IA y tecnología: El impacto económico de la IA14 de julio de 2026
- Informe sobre IA y tecnología: La IA se instala en The Hill.4 de junio de 2026
Ver 3 historias másVer 3 historias más
Por Ian DuncanIan Duncan es periodista y cubre las agencias federales de transporte y la política del sector. Anteriormente trabajó durante siete años en el Baltimore Sun, donde cubrió el ayuntamiento, las fuerzas armadas y la justicia penal. Formó parte del equipo del Sun que cubrió la muerte de Freddie Gray en 2015 y el escándalo de los libros de Healthy Holly de la entonces alcaldesa Catherine Pugh.seguir en X@iduncan
Por Gerrit De VynckGerrit De Vynck es reportero de tecnología para The Washington Post desde 2021. Escribe sobre inteligencia artificial y su creciente impacto en nuestra sociedad. Anteriormente, cubrió temas tecnológicos durante siete años en Bloomberg News. Se le puede contactar en Signal con el nombre de usuario GerritD.27.seguir en X@GerritD
Descubre más desde Nueva Pensamiento Crítico
Suscríbete y recibe las últimas entradas en tu correo electrónico.
