Details

Разом з робочим запитом до чатбота можуть потрапити договір, фінансова звітність або частина клієнтської бази. Так виникає Shadow AI – тіньовий ШІ.

Context

Перша категорія включає інструменти, затверджені для роботи в захищеному середовищі. Зовнішні сервіси можна дозволяти з обмеженнями після перевірки юристами та службою безпеки, якщо вони потрібні для неконфіденційних завдань. Неперевірені системи не повинні працювати з корпоративними даними.

What's next

Захищене середовище дає змогу контролювати доступ до даних, проте не гарантує правильності відповіді. Великі мовні моделі не встановлюють факти так, як це робить фахівець. Вони прогнозують найбільш імовірне продовження тексту, тому можуть переконливо викладати інформацію, якої насправді не існує.