Чат-ботов проверяют «краш-тест манекенами»

Стартап Circuit Breaker Labs прошёл в финальный раунд Startup Battlefield 200 на TechCrunch Disrupt (13–15 октября в Сан-Франциско). Он использует ИИ-агентов, чтобы имитировать других пользователей, и прогоняет через чат-ботов от тысяч до сотен тысяч симулированных чатов в день для выявления злонамеренной активности. Компанию основали брат и сестра Шира́ли и Арул Нигам после смерти подростка, который привязался к чат-боту Character.AI.

Если ты делаешь чат-бота для подростков или для психологической поддержки, такое стресс-тестирование — отличный способ найти баги, которые обычный процесс QA просто пропустит. Невозможно вручную представить все возможные крайние случаи для тысяч разговоров. Конечно, Circuit Breaker Labs — маленькая компания (всего пять человек) без публичных клиентов, так что я не знаю, насколько хорош их сервис. Но лично я предпочёл бы использовать что-то подобное перед запуском любого продукта с открытым чатом, чем потом разбираться с жалобами пользователей после релиза.