Продолжу тему предыдущего поста и расскажу об интересном наблюдении: самые передовые модели искусственного интеллекта, такие как ChatGPT и Gemini, не смогли решить элементарную задачу – определить, какое число больше: 9.9 или 9.11, а также ошиблись при вычитании одного из другого. Эта «ошибка пятиклассника» заставляет задуматься о границах возможностей ИИ.
Искусственный интеллект активно внедряется в жизнь как обычных пользователей, так и крупных компаний. Однако его повсеместное использование привлекло внимание и криминального сообщества. В центре их интересов — непрозрачность работы моделей и возможность использования их уязвимостей для тайного обучения в своих целях.
Что же волнует злоумышленников?
1. Сбор чувствительных данных. Например, злоумышленники могут составить инструкции, позволяющие модели выдать конфиденциальную корпоративную информацию.
2. Распространение ложной информации. Манипуляции с данными обучения дают возможность внедрять и тиражировать фейки.
Эксперты часто сравнивают ИИ с ребёнком, который учится на примерах. Хороший это пример или плохой — зависит от того, кто его показывает. Так же и модели: на основе данных и инструкций, которыми их обучают, они могут выдавать как полезные, так и нежелательные результаты.
Интересные новости пришли из Китая: там ИИ-модели оцениваются на соответствие «базовым социалистическим ценностям». По итогам такой оценки модель компании ByteDance (владельца TikTok) получила высший рейтинг безопасности, а ChatGPT — самый низкий. Это наглядно показывает, что модели отражают не только данные, но и ценности, заложенные их разработчиками.
Важно помнить: языковые модели всегда дадут ответ на ваш вопрос — они не скажут «не знаю». Однако качество этого ответа зависит от данных, на которых обучалась модель, используемых алгоритмов и ограничений.
Средства массовой информации создали образ ИИ как универсального помощника, что соблазняет использовать его для любых задач. Но прежде чем передавать модели данные компании или бездумно использовать её ответы, стоит тщательно оценить возможные последствия и подходить к результатам критически.
Как вы думаете, почему сейчас во всём мире активизировались разработки антропоморфных роботов и как это связано с развитием ИИ? Поделитесь своим мнением в комментариях.