Microsoft розробила нові інструменти для захисту чатботів від обману користувачами, інтегрувавши їх у Azure AI Studio, платформу на базі OpenAI для створення індивідуальних штучноінтелектуальних помічників
Microsoft створила інструменти, щоб користувачі не обманювати чат-ботів Фото: freepik.com
Згідно з інформацією від Bloomberg, ці захисні механізми включають “prompt shields”, які ідентифікують і блокують спроби змусити штучний інтелект діяти незаплановано або зловмисно.
Однією з ключових проблем, з якою бореться Microsoft, є випадки “indirect prompt injections”, коли шкідливі команди вводяться безпосередньо у навчальні дані, змушуючи модель виконувати небажані дії, такі як крадіжка даних користувачів або компрометація систем. Компанія також вводить попередження для користувачів про можливе вигадування або помилкову інформацію з боку ШІ-моделі.
Вас може зацікавити: Microsoft готується випустити перші комп’ютери зі ШІ: названо дату
Сара Берд, директорка Microsoft з питань відповідального штучного інтелекту, підкреслила, що ці заходи спрямовані на виявлення та блокування підозрілих запитів у реальному часі, щоб підвищити рівень довіри до генеративних інструментів ШІ компанії. Ця ініціатива виникла після розслідування інцидентів з Copilot, який генерував некоректні відповіді через навмисне введення користувачами неправильних даних.
Зростання кількості користувачів призводить до збільшення спроб зловмисного впливу, тому Microsoft та OpenAI активно працюють над розробкою та інтеграцією ефективних засобів захисту в основні мовні моделі, що лежать в основі розробки штучного інтелекту.
Нагадаємо, Microsoft істотно підвищила продуктивність та розширила можливості свого чат-бота Copilot. Тепер усі користувачі можуть безплатно отримати доступ до великої мовної моделі (LLM) GPT-4 Turbo, яка вважається найпотужнішою серед наявних. Раніше доступ до GPT-4 Turbo від компанії OpenAI в рамках Microsoft Copilot був лише у передплатників Pro-версії.
Також ми писали, що Microsoft зробила несподіваний крок, продовживши термін підтримки необов’язкових оновлень для Windows 11 версії 22H2, відступивши від свого звичного графіка завершення підтримки.
Це рішення має значення як для загального розвитку Windows 11, так і для індивідуальних користувачів, особливо тих, хто вирішив залишитися на цій версії.
Ознайомтесь з іншими популярними матеріалами:
Microsoft прибере з Windows 11 дві корисні програми
Microsoft інвестує в медіастартап та дасть йому свій ШІ-бот: деталі угоди
Microsoft видалила популярний застосунок після 28 років роботи
