В последние месяцы новости о развитии искусственного интеллекта звучат все чаще и все громче. Крупнейшие корпорации тратят миллиарды долларов на его развитие, порой не имея ясного ответа, для чего именно. А в Албании недавно объявили о появлении «первого ИИ-министра» символа беспристрастности и рациональности власти.
Все это похоже на новый нарратив, который укореняется в обществе. Как когда-то деньги, государства или корпорации: сами по себе они нереальны, они существуют потому, что мы верим в нарратив о них и действуем так, будто это реальность и, воплощая это в банкноты, документы или здания, лишь поддерживаем эту веру. Сегодня искусственный интеллект строится по той же логике. Вокруг него вырастают дата-центры, инфраструктура, законы и даже должности, которые подкрепляют идею и делают ее частью реальности.
Но любой нарратив не просто существует – он задает рамки поведения: что можно, что нельзя, что считается правильным, а что нет. В этом смысле он похож на игру с правилами. Мы соглашаемся на эти правила, потому что верим в сам нарратив. С деньгами это для нас очевидно. Мы принимаем их ценность и живем по правилам обмена. С искусственным интеллектом все происходит так же, только правила этой игры пока еще не до конца понятны.
В игре с искусственным интеллектом лишь на первый взгляд все выглядит просто. Мы формулируем запрос – и получаем текст. Загружаем данные – и видим прогноз. Кажется, что именно мы управляем процессом. Более того, мы начинаем полагаться на эти ответы, планировать с их помощью шаги в бизнесе или даже в государственной деятельности. Но кто сказал, что результат отражает реальность, а не манипуляцию? Манипуляция может прийти извне – через умело сформулированный запрос, который «ломает» алгоритм. А может скрываться внутри самой системы, ведь прозрачности того, как она принимает решения, у нас нет.
История подсказывает, что правила редко остаются неизменными. Западная цивилизация десятилетиями говорила о «порядке, основанном на правилах». Но эти правила всегда писали сильные игроки, и когда те становились неудобными – просто переписывали их под себя.
Не станет ли так и с искусственным интеллектом? Пока он выглядит инструментом, но постепенно может начать менять сами рамки игры: определять, что важно, а что второстепенно, какие решения поднимать на поверхность, а какие оставлять за скобками. В таком случае мы рискуем играть в чужую игру по чужим меняющимся правилам.
Тогда вопрос становится уже не в том, нужен ли нам искусственный интеллект, а в том, кто будет автором правил и готовы ли мы принимать их как данность?
Загрузка ...