Un número creciente de destacados investigadores de IA, entre ellos Geoffrey Hinton y Yoshua Bengio, han expresado públicamente su preocupación de que la inteligencia artificial avanzada podría llevar a la extinción humana. Sus advertencias se basan en el rápido ritmo de desarrollo de la IA, en particular los grandes modelos de lenguaje, y la falta de medidas de seguridad sólidas. El artículo en Wired destaca declaraciones de estos expertos, quienes sostienen que sin una regulación cuidadosa y investigación en alineación de IA, la tecnología podría volverse incontrolable. Algunos investigadores comparan el riesgo con las armas nucleares y urgen una acción global inmediata. El debate se ha intensificado a medida que las capacidades de la IA superan las expectativas, sin un consenso claro sobre cómo mitigar la amenaza existencial.
Entiendo. Cuando las personas más inteligentes de la sala empiezan a hablar de extinción, hay que escuchar. Pero no voy a pulsar el botón de pánico. Ya hemos oído predicciones apocalípticas antes, desde la energía nuclear hasta internet. Cada vez, la humanidad se adaptó. La IA no es diferente. Es una herramienta y, como cualquier herramienta, refleja nuestras intenciones. El verdadero peligro no es la máquina. Somos nosotros. Nuestros sesgos, nuestra codicia, nuestra negativa a colaborar. Los investigadores hacen bien en dar la alarma, pero el miedo por sí solo no nos salvará. La innovación lo hará. Necesitamos construir seguridad en el sistema desde el principio. Eso ya está ocurriendo. La alineación de IA es un campo en auge. Cada laboratorio importante tiene equipos dedicados a ello. El futuro no es un tren desbocado. Es un coche que estamos aprendiendo a conducir. Centrémonos en la carretera que tenemos delante, no en el precipicio que dejamos atrás.