Чат-боты активно внедряются во все форматы коммуникации с клиентами или пользователями — взять банковские приложения или мессенджеры. Но технология, созданная для повышения производительности и помощи людям, несет и определенные риски для бизнеса.
Немного теории
Благодаря ChatGPT, чат-боту с искусственным интеллектом (ИИ), применение нейросетей для общения и помощи пользователям переживает настоящий бум. В сводках ИТ-новостей можно регулярно читать, что та или иная компания внедряет технологию в свой контур и предоставляет клиентам новые виды услуг. Создаются бизнесы, полностью построенные на возможностях нейросетей, а перед обществом встают новые вопросы: что считать искусством, какие профессии потеряют актуальность, безопасно ли использование сторонних сервисов? Ведь в них пользователи загружают много чувствительной информации.
При этом ChatGPT — не первый «умный» чат-бот. Сама технология появилась еще в середине 90-х годов прошлого века и практически сразу начала обрабатывать естественный язык. С тех пор подобные инструменты не переставали совершенствоваться.
Чат-боты и виртуальные помощники — это не только забава для обычного пользователя, но и реальная польза для бизнеса. Они повышают скорость работы сотрудников, сокращают время обработки запросов клиентов, персонализируют пользовательский опыт и упрощают коммуникации в организациях. Беря на себя рутинные задачи и операции, они могут стать высокоэффективными инструментами для повышения производительности. Поэтому нет ничего удивительного, что на горизонте 3–5 лет рынку чат-ботов прогнозируют небывалый рост — более чем в 10 раз.
Чат-боты: скрытая угроза
Когда технология быстро становится массовой и начинается гонка по ее внедрению — это всегда повод насторожиться и присмотреться к другой стороне медали, которой в большинстве случаев становится информационная безопасность. Первые кейсы не заставили себя ждать: в компании Samsung произошла серьезная утечка корпоративных данных из-за стремления сотрудников оптимизировать свое время с помощью ChatGPT. Даже не внедряя этот инструмент в свой ИТ-контур, бизнес рискует деньгами.
Хайп вокруг текстовых ботов на базе ChatGPT очень напоминает ситуацию, разворачивавшуюся вокруг веб-инструментов для текстовых переводов в прошлом. Когда только появились онлайн-переводчики от Google и других компаний, происходило множество подобных утечек. Офисные работники переводили с их помощью рабочую документацию, просто копируя ее в формы ввода и не беря в расчет безопасность информации. Крупные компании боролись с этими утечками, разрабатывая собственные интерфейсы для перевода в закрытом контуре. ChatGPT ждет абсолютно такое же будущее.
Сегодня многие пользователи нейросетей теряют осторожность и забывают о NDA, коммерческой ценности и чувствительности информации, и также легкомысленно копируют данные в формы ввода. Пользовательский опыт при общении с чат-ботами основан на том, что чем больше информации им передашь, тем точнее получишь обратную связь.
ChatGPT и текстовые боты в целом стали отличными социальными инженерами. Они быстро дают убедительные ответы и к ним появляется определенный кредит доверия. Начав общаться с чат-ботом, человек теряет бдительность, так как видит отзывчивый и полезный интерфейс и пытается использовать его в своих рабочих задачах, нарушая правила работы с информацией. Ведь одно дело получить от бота код для программирования, а другое — выжимку из документа под NDA.
К слову, для России ограничен доступ к интерфейсу ChatGPT, и пользователи применяют средства обхода блокировок — то есть к рискам утечки данных со стороны облачных провайдеров ботов добавляются риски, связанные с приложениями, обеспечивающими доступ к API.
Как снизить риски
Чат-боты стали настоящим вызовом для служб ИБ. У них появилась новая точка утечки информации. И самое опасное, что пользователи передают ее добровольно и осознанно. Важно разъяснять, что текстовые боты не снижают требования к контролю за передаваемой информацией, имеющей ограничения на распространение.
Сегодня существует множество текстовых движков и пока нет никаких методов понять, с кем мы имеем дело при обмене сообщениями или медиа — с человеком или роботом, и каким именно. Кроме того, есть нейросети, как требующие дообучения, так и уже обученные на наборе данных, не могут получать в диалогах с пользователями новую информацию. Однозначно сказать, с каким типом сети ведется диалог, невозможно. И даже используя доверенного провайдера чат-бота, мы не можем быть уверены, что данные, переданные в приватной беседе, не будут представлены в другом диалоге.
Тем не менее тщательный подбор провайдера остается одним из надежных способов защититься от утечек чувствительных данных. Однако наиболее верным способом становится разработка собственных корпоративных ботов и интерфейсов в закрытых контурах организации.
Бот: интеллектуальный или сценарный
Говоря о чат-ботах, нужно отметить и их преимущества — они не только генерируют для вас новый, не существовавший ранее, контент и анализируют запрос, но и доступны с любого смартфона, буквально на бегу. И часто именно эта возможность имеет большее значение для бизнеса. Для общения с клиентом (например, обратная связь для оценки качества услуг, релевантные рекомендации по новым услугам и товарам, система поддержки в приложениях и популярные услуги — перевод денег через СПБ, проверка баланса и оплата счетов), можно и нужно использовать «сценарный» бот.
Боты устроены по-разному. В настоящее время их можно разделить на два типа в зависимости от технологических особенностей. «Умные», о которых говорили выше, умеют понимать естественный язык пользователей благодаря использованию ИИ. «Сценарные» проще: у них ограничен набор шагов, а конечный результат определен — либо сценарий отработан успешно, либо пользователь переводится в другой канал общения. Распространенность сейчас получает второй тип — это связано с доступностью технологий, таких ботов легко настраивать под потребности бизнеса с помощью имеющихся на рынке решений.
Например, для себя — чтобы облегчить коммуникацию внутри iFellow — мы разработали MyFellow Bot. Он позволил оптимизировать наши менеджерские процессы, став «одним окном» для решения многих типовых запросов. Через наш бот сотрудники отправляют запросы в сервис-деск: на доступы к корпоративным системам и базам знаний, техническим специалистам — для ремонта, настройки или предоставления техники, оформляют пропуски, заказывают бухгалтерские и кадровые справки. Заявки на подключение к BI-системе, предложения по дальнейшей автоматизации задач или оптимизации электронного документооборота тоже принимает бот.
При этом используется понятный и знакомый интерфейс Telegram, сотрудникам не нужно авторизовываться в других системах — это важно, если много специалистов работает дистанционно. Сервис на базе MyFellow Bot-a стал популярным в компании, к нему проявили интерес наши клиенты, поэтому мы сделали его доступным в виде продукта, который поставляется и как коробочное решение, и как отдельная библиотека.
Реклама. Рекламодатель: ООО «Айфэлл», ifellow.ru