Алексей Мезенцев, руководитель AI Lab ОТП Банка, выступил на Бизнес Форс Форуме с докладом о рисках для организаций при работе с искусственным интеллектом.
Он рассказал, как использовать нейросети в рабочих задачах и контролировать риски, связанные с утечками корпоративных данных.
По словам Мезенцева, при работе с ИИ сотрудник передаёт модели материалы, необходимые для выполнения задачи. Если используется внешняя модель, данные организации могут выйти за пределы корпоративного контура. Поэтому важно заранее определить, какие данные нужны для задачи и в каком виде их можно передавать.
«Контекст для ИИ должен состоять из данных, которые необходимы для конкретной задачи и разрешены для обработки. Если есть сомнение в очистке данных или возможности их передачи, то лучше провести дополнительные консультации внутри организации до решения задачи», — отметил Алексей Мезенцев.
В качестве примера Мезенцев привёл анализ обращений клиентов одной компании. Данные из контакт-центра, чатов, CRM и почты сначала собираются внутри организации, после чего из них оставляют необходимые поля, очищают персональные и закрытые данные и проводят проверку ИБ. Во внешнюю LLM передаются только обезличенные данные для аналитики.
Мезенцев также отметил важность актуальности:
«Мы наблюдаем, что передача данных внутри в едином формате, понятном как для людей, так и для больших языковых моделей, значительно ускоряет работу команд. Фактически мы перестали обмениваться внутри подразделения презентациями и таблицами, а перешли на единый с нейросетями формат md-файлов, которые регулярно актуализируем».
По словам Мезенцева, такой подход позволяет перейти от отдельных экспериментов с ИИ к его системному использованию в бизнес-процессах. В качестве примера он привёл работу с Codex при найме специалиста в команду: обработка 40 резюме с едиными критериями и общим контекстом позволила сократить затраты времени на 60–70% и вывести лучшего кандидата, в 2 раза сократив плановый срок закрытия позиции в банке.
Комментарии