Microsoft разработала новые инструменты для защиты чатботов от обмана пользователями, интегрировав их в Azure AI Studio, платформу на базе OpenAI для создания индивидуальных искусственноинтеллектуальных помощников
Microsoft створила інструменти, щоб користувачі не обманювати чат-ботів Фото: freepik.com
Согласно информации от Bloomberg, эти защитные механизмы включают «prompt shields», которые идентифицируют и блокируют попытки заставить искусственный интеллект действовать незапланированно или злонамеренно.
Одной из ключевых проблем, с которой борется Microsoft, являются случаи «indirect prompt injections», когда вредоносные команды вводятся непосредственно в обучающие данные, заставляя модель выполнять нежелательные действия, такие как кража данных пользователей или компрометация систем. Компания также вводит предупреждения для пользователей о возможном выдумывании или ложной информации со стороны ИИ-модели.
Вас может заинтересовать: Microsoft готовится выпустить первые компьютеры с ИИ: названа дата
Сара Берд, директор Microsoft по вопросам ответственного искусственного интеллекта, подчеркнула, что эти меры направлены на выявление и блокирование подозрительных запросов в реальном времени, чтобы повысить уровень доверия к генеративным инструментам ИИ компании. Эта инициатива возникла после расследования инцидентов с Copilot, который генерировал некорректные ответы из-за намеренного ввода пользователями неправильных данных.
Рост количества пользователей приводит к увеличению попыток злонамеренного воздействия, поэтому Microsoft и OpenAI активно работают над разработкой и интеграцией эффективных средств защиты в основные языковые модели, лежащие в основе разработки искусственного интеллекта.
Напомним, Microsoft существенно повысила производительность и расширила возможности своего чат-бота Copilot. Теперь все пользователи могут бесплатно получить доступ к большой языковой модели (LLM) GPT-4 Turbo, которая считается самой мощной среди существующих. Ранее доступ к GPT-4 Turbo от компании OpenAI в рамках Microsoft Copilot был только у подписчиков Pro-версии.
Также мы писали, что Microsoft сделала неожиданный шаг, продлив срок поддержки необязательных обновлений для Windows 11 версии 22H2, отступив от своего привычного графика завершения поддержки.
Это решение имеет значение как для общего развития Windows 11, так и для индивидуальных пользователей, особенно тех, кто решил остаться на этой версии.
Ознакомьтесь с другими популярными материалами:
Microsoft уберет из Windows 11 две полезные программы из Windows 11
Microsoft инвестирует в медиастартап и даст ему свой ИИ-бот: детали сделки
Microsoft удалила популярное приложение после 28 лет работы
