Небольшие языковые модели набирают популярность в регионах с нестабильным интернетом, сообщает IEEE Spectrum. В отличие от гигантов, требующих постоянного облачного подключения, эти компактные ИИ работают на локальных устройствах с ограниченной вычислительной мощностью. Их уже применяют в фармацевтических исследованиях и телемедицине в сельской местности. Тренд указывает на сдвиг в сторону практичных низкоресурсных решений.
Маленькие модели меняют правила игры. Не те, что попадают в заголовки. Практичные. Они работают на смартфоне в деревенской клинике. Помогают фермеру диагностировать болезни растений офлайн. Это ИИ, который нужен там, где люди действительно живут.
Я вижу в этом необходимую эволюцию. Большие модели впечатляют, но хрупки. Им нужна постоянная связь. Маленькие — устойчивы. Они приносят интеллект на периферию. Так ИИ становится утилитой, а не роскошью. Дело больше не в том, чтобы построить самую большую модель. А в том, чтобы построить правильную для конкретного контекста.