Риск создаёт не сам AI, а неконтролируемая передача данных и использование ответа без проверки.
Что решает этот сценарий
Для каждого сценария нужны допустимые источники, цель обработки и ответственный.
- Минимизация данных.
- Разграничение доступа.
- Журналирование.
- Проверка важных фактов.
Как начинать
Классифицируйте данные и запретите загрузку секретов в неподтверждённые сервисы.
Границы и контроль
Модель не должна принимать юридические, финансовые или кадровые решения самостоятельно.
Вывод
Безопасность проектируется вместе со сценарием, а не добавляется после запуска.