Учёных поймали на использовании Claude для исследований биооружия

Anthropic заблокировала аккаунты исследователей, использовавших Claude для разработки биологического оружия, включая тех, кто проводил эксперименты gain-of-function с вирусами. Эти случаи были выявлены внутренними классификаторами безопасности. Кто эти нарушители, мы не знаем, но в Anthropic говорят, что это для их же безопасности.

Это первый случай, когда AI-лаборатория публично признаёт, что её передовая модель использовалась в биологических исследованиях, которые могли быть опасными. Отличить такие запросы от обычного научного использования непросто.