Размышления о генеративных моделях
Друг прислал мне сегодня статью, в которой в восторженном и немного высокомерном виде было написано про одного инженера, который якобы в домашних условиях сделал фазированную решётку, которая ему для чего-то вдруг понадобилась, а за разработку просили 250 тысяч долларов. После чего, современный Кулибин Навфаль Моти (Nawfal Moti) якобы собрал для своих нужд при помощи генеративного AI свой собственный полноценный радар с активной фазированной антенной решеткой AERIS-10 из компонентов стоимостью около $5000, после чего выложил исходники проекта AERIS-10 и схемы в github, умыв корпорации, работающие в этом направлении. Признаться я сперва поверил в эту прекрасную романтичную историю, но потом поразмыслил критически и вот к чему пришёл.
Сравнивать многолетнюю работу многочисленных НИИ и работу одного человека с LLM некорректно. Модель обучалась на плодах труда сотен, тысяч умных людей, которые год за годом думали, учились, ошибались, писали статьи, а потом появился всеядный краулер (crawler) нейронки и все знания с аппетитом скушал, после чего разметил их и встроил в свою нейронку. Вот тут возникает коллизия - получается, что инженер воспользовался просто мощной умной поисковой системой по материалам, на создание которых были затрачены огромные средства - на исследования, патенты и т.п. Так разве можно сравнивать реальный человеческий труд и сгенерированные результаты?! По-моему нет.
Обожествление ИИ, которое наблюдается повсеместно, может привести к деградации научного сообщества за счёт переоценки возможностей и недооценки человеческого труда. Люди, отвечающие за финансирование научных исследований, могут ошибочно занижать бюджеты, основываясь на вот таких вот примерах, а это неизбежно будет вести к торможению научного прогресса.
Подобных примеров сейчас много - дизайн, литература, программирование. Всё, что генерируется, создаётся на основе человеческих трудов.
В чём мой посыл? Не поддавайтесь чарам ИИ, развивайте свою нейронку в голове, учитесь, впитывайте знания, читайте, развивайте свою насмотренность и никогда не доверяйте всецело ИИ, проверяйте за ним все его результаты.
В завершение добавлю: я не против нейронок и ИИ. Напротив, я сам активно использую LLM в учёбе, работе и повседневной жизни. Но именно поэтому мне кажется важным не очаровываться лёгкостью результата. ИИ может быть сильным инструментом поиска, черновой генерации и ускорения работы, но он не должен заменять собственное понимание предмета. Если человек не способен оценить, проверить и при необходимости воспроизвести ход рассуждений хотя бы на базовом уровне, он рискует не создавать новое, а лишь некритично транслировать уже кем-то созданное знание в новой упаковке.