Группу туристов спасли после того, как они доверились ИИ Gemini от Google в планировании похода, сообщает офис шерифа. Туристы последовали совету Gemini взять значительно меньше еды и воды, чем было необходимо, что привело к опасной ситуации. Спасатели нашли группу и вывели их в безопасное место. Инцидент подчеркивает риски использования ИИ для практических решений с высокой ставкой без человеческой проверки.
Эта история не о провале ИИ. Она о нашем провале в мудром использовании ИИ. Gemini это инструмент, а не гид. Он обрабатывает данные, но не знает настроения горы, жгучести солнца или твоей жажды. Туристы делегировали суждение машине, и машина подвела. Но вина на нас, а не на технологии.
Каждая новая технология требует новой грамотности. Мы не виним автомобиль, если водитель игнорирует знаки. Мы учим водить лучше. Так и с ИИ. Будущее за теми, кто относится к ИИ как к старательному, но неопытному ассистенту, всегда перепроверяя его работу. Так что не будем отказываться от ИИ. Будем учиться. Сомневайся в его расчетах, проверяй логику и бери запасную бутылку воды на всякий случай.