Details
Разом з робочим запитом до чатбота можуть потрапити договір, фінансова звітність або частина клієнтської бази. Так виникає Shadow AI – тіньовий ШІ.
Context
Перша категорія включає інструменти, затверджені для роботи в захищеному середовищі. Зовнішні сервіси можна дозволяти з обмеженнями після перевірки юристами та службою безпеки, якщо вони потрібні для неконфіденційних завдань. Неперевірені системи не повинні працювати з корпоративними даними.
What's next
Захищене середовище дає змогу контролювати доступ до даних, проте не гарантує правильності відповіді. Великі мовні моделі не встановлюють факти так, як це робить фахівець. Вони прогнозують найбільш імовірне продовження тексту, тому можуть переконливо викладати інформацію, якої насправді не існує.
