La IA: una espada de doble filo

Eric Schmidt, exCEO de Google, ve la inteligencia artificial como una herramienta poderosa con un potencial enorme, pero también reconoce los peligros inherentes a su rápido desarrollo. Su perspectiva es ambivalente: por un lado, defiende que detener su avance es inviable, incluso considerando el impacto ambiental; por otro, advierte sobre los riesgos potenciales y propone una solución radical: la posibilidad de "desenchufar" sistemas de IA que alcancen un nivel de automejora incontrolable.

El dilema del interruptor

Schmidt argumenta que, si un sistema informático llega a un punto en el que puede automejorarse sin supervisión humana, es fundamental tener la capacidad de desactivarlo. Esta idea, aunque drástica, refleja la preocupación creciente sobre el control y la seguridad de sistemas de IA cada vez más autónomos. La pregunta crucial es: ¿podría una IA suficientemente potente evitar ser desconectada?

El futuro en nuestros bolsillos: polímatas digitales

A pesar de las preocupaciones sobre la seguridad, Schmidt también vislumbra un futuro en el que la IA generativa nos proporcione el equivalente a un polímata en nuestros dispositivos móviles. Imaginemos tener acceso instantáneo a una vasta cantidad de conocimiento en diversos campos, similar a la erudición de figuras históricas como Leonardo da Vinci o Benjamin Franklin. Esta visión, aunque optimista, no minimiza los desafíos éticos y de seguridad.

La necesidad de una regulación efectiva

Schmidt critica la falta de preparación de las empresas de IA para gestionar los riesgos asociados a sistemas cada vez más poderosos. Señala el rápido avance hacia sistemas capaces de acceder a sistemas de armamento, anticipando su llegada en un plazo mucho más corto del previsto inicialmente. La regulación, como la nueva Ley de IA europea, intenta abordar estos riesgos, pero su eficacia aún está por verse.

Una solución controvertida: IA supervisando IA

Para mitigar los riesgos, Schmidt sugiere dos acciones clave: acelerar el desarrollo de IA en Occidente para mantener una ventaja estratégica, y crear sistemas de IA que monitoreen otros sistemas de IA. Esta propuesta, aunque audaz, subraya la complejidad del problema y la dificultad de controlar sistemas autónomos. La idea de una IA supervisando otra IA es tan compleja como prometedora.

Aplicaciones militares y el debate ético

La implicación de Schmidt en una startup que proporciona drones con IA a Ucrania resalta el papel de la IA en conflictos bélicos. Este uso, aunque potencialmente beneficioso, plantea dilemas éticos adicionales sobre la responsabilidad y el impacto de estas tecnologías en escenarios de guerra.

Perspectivas divergentes: el optimismo frente al pesimismo

Mientras algunas figuras destacadas expresan preocupación por el desarrollo de la IA, otros, como Yann LeCun de Meta, consideran que la amenaza a la humanidad es exagerada. Esta disparidad de opiniones refleja la complejidad y la incertidumbre que rodean el futuro de la inteligencia artificial.

Fuente: Xataka