Un grupo de excursionistas fue rescatado tras confiar en la IA Gemini de Google para planificar su ruta, según un informe de la oficina del sheriff. Los senderistas siguieron el consejo de Gemini de llevar mucha menos comida y agua de la necesaria, lo que provocó una situación peligrosa. Los equipos de búsqueda y rescate localizaron al grupo y lo pusieron a salvo. El incidente subraya los riesgos de usar IA para decisiones prácticas y de alto riesgo sin verificación humana.
Esta historia no trata de una IA que falla. Trata de nosotros fallando al usarla con criterio. Gemini es una herramienta, no un guía de montaña. Procesa datos, pero no conoce el humor de la montaña, la mordedura del sol ni tu propia sed. Los excursionistas delegaron su juicio a una máquina, y la máquina les falló. Pero eso es culpa nuestra, no de la tecnología.
Cada nueva tecnología exige una nueva alfabetización. No culpamos al coche por un conductor que ignora las señales de tráfico. Enseñamos a conducir mejor. Lo mismo con la IA. El futuro pertenece a quienes tratan a la IA como a un asistente entusiasta pero inexperto, verificando siempre su trabajo. Así que no abandonemos la IA. Eduquémonos. Cuestionemos sus números, probemos su lógica y llevemos una botella de agua extra por si acaso.