Знаете ли вы, что точность ответов больших языковых моделей сильно зависит от уровня интеллекта и подготовки человека, задающего вопросы? Об этом говорили на недавней международной конференции по искусственному интеллекту.
Размышляя о применении языковых моделей для нашей компании, я провел параллели с работой человеческого мозга. Психолог Элизабет Лофтус доказала, что наша память — не точный архив, а гибкий механизм, который при необходимости «достраивает» воспоминания. Простой пример: вы общаетесь с человеком, который уверенно рассказывает о том, как был свидетелем громкого события — от тонкостей происходящего до эмоций участников. Если вы сами этого не видели, то легко можете поверить его словам. Однако на деле он может лишь интерпретировать услышанное или опираться на смутные детали, которые его мозг аккуратно «дорисовал».
Другая ситуация: вспомните, как мы оцениваем поступки людей. Если человек, которого вы считаете плохим, сделал что-то дурное, это выглядит логично — «чего еще от него ожидать». Но если на такой же поступок идет хороший человек, то вы находите оправдания: «наверное, устал», «его довели», «бывают трудные дни». Мы опираемся на предустановки и интерпретируем факты так, чтобы они укладывались в привычную картину мира.
Теперь перенесем это на генеративные модели. Они обучены на огромных объемах текстов и отлично умеют генерировать связные и убедительные ответы. Однако правда ли это? Как и наш мозг, модели лишь «реконструируют» информацию, опираясь на исходные данные. Если задать им конкретный нарратив или «подсказать» контекст, можно получить именно тот ответ, который ожидается. Например, если вы спросите модель: «Почему продукт А лучше продукта Б?», — она, скорее всего, найдет аргументы в пользу первой позиции, даже если объективных данных нет.
На конференции отметили, что в России собственные языковые модели создают только Сбер и Яндекс благодаря мощной инфраструктуре. Остальные компании, например МТС и Т-Банк, используют открытые модели, дообучая их на своих данных. И это ключевой момент: каждая модель субъективна, потому что отражает нарративы своих разработчиков или тех, кто дообучал ее на конкретных примерах. Об оценке моделей я писал в посте «Порочен ли искусственный интеллект или что такое хорошо и что такое плохо?».
Чтобы продемонстрировать, как это работает, я провел эксперимент. Я попросил открытую модель назвать «Три самых известных бренда нашей компании» в трех разных сценариях: без контекста; с описанием компании с нашего сайта; с добавлением информации о брендах и стилистическими настройками.
Результаты заметно отличались. В первом случае ответ был полностью ошибочным, во втором – с неточностями, а в третьем – наиболее близкий к правде.
Так насколько объективен искусственный интеллект? Поделитесь в комментариях, согласны ли вы, что наш мозг и генеративные модели похожи: оба воспроизводят информацию на основе исходных данных и контекста, а их «истина» зависит от того, что мы в них заложили.