Los líderes de importantes empresas de inteligencia artificial han comenzado a expresar sus preocupaciones sobre los riesgos que conlleva un desarrollo acelerado y descontrolado de esta tecnología. Jacob Coxon, investigador de Anthropic, ha señalado que la inteligencia artificial que se está desarrollando podría convertirse en una amenaza significativa si se escapa del control humano.
Dario Amodei, CEO de Anthropic, ha solicitado abiertamente que se detenga el avance de esta tecnología para permitir la implementación de medidas de seguridad adecuadas. Asimismo, figuras destacadas como Sam Altman de OpenAI, Elon Musk de xAI y Demis Hassabis de Google DeepMind han manifestado su inquietud ante los peligros asociados con sistemas que se vuelven cada vez más potentes y autónomos.
Uno de los principales desafíos radica en la competencia entre Estados Unidos y China por liderar el desarrollo de la inteligencia artificial, lo que complica la posibilidad de alcanzar acuerdos internacionales que regulen su avance. Donald Trump, según se informa, también se ha mostrado en contra de cualquier normativa que pueda poner a Estados Unidos en desventaja frente a su competidor asiático.
Los expertos han pedido la implementación de controles públicos, la creación de normas comunes entre las empresas y el establecimiento de acuerdos internacionales para abordar estos retos. Por su parte, Europa ya cuenta con el AI Act, mientras que otras naciones están en proceso de elaborar su propia legislación en este ámbito.
La situación presenta una paradoja: aquellos que están diseñando los sistemas de inteligencia artificial más avanzados son también los que comienzan a solicitar límites en su desarrollo antes de que la tecnología supere nuestra capacidad para administrarla de manera segura.
