Ученые подписали инициативу против превращения ИИ в биооружие

На заседании Конгресса прошлого года Дарио Амодеи, глава стартапа в области искусственного интеллекта (ИИ) Anthropic, выразил обеспокоенность по поводу возможности использования новых технологий ИИ для создания биологических атак. Такие атаки могут быть осуществлены непрофессиональными, но злонамеренными лицами и включать в себя распространение вирусов или токсических веществ, вызывающих массовые заболевания и смерти. Эту угрозу восприняли серьезно сенаторы обеих партий, тогда как эксперты по ИИ вели дискуссии о степени риска. Теперь более 90 биологов и ученых, специализирующихся на технологиях ИИ для дизайна белков, подписали соглашение, направленное на предотвращение использования их исследований для причинения ущерба миру.

Среди ученых — нобелевский лауреат Фрэнсис Арнольд, которые утверждают, что преимущества новых технологий перевешивают потенциальные риски, в том числе в области создания вакцин и лекарств. 'Как ученые, занимающиеся этими исследованиями, мы считаем, что польза от текущих технологий ИИ для проектирования белков значительно превышает потенциал вреда, и мы хотим, чтобы наши работы оставались полезными для всех и в будущем', — говорится в соглашении. Цель соглашения — не ограничить разработку или распространение технологий ИИ, а регулировать использование оборудования для производства нового генетического материала, что является ключом к созданию биооружия, пояснил Дэвид Бейкер, директор Института дизайна белков университета Вашингтона, который инициировал соглашение.

ИИ, биооружие, соглашение