OpenAI и опасности безопасности

Заслуживающий доверия эксперт в области ИИ, Майлз Брунэдж, раскритиковал OpenAI за искажение своей истории и снисходительное отношение к вопросам безопасности. Брунэдж, который работал в OpenAI, обратил внимание на недавно опубликованный документ, где компания заявляет о своем стремлении к искусственному общему интеллекту (AGI) через небольшие шаги, а не за один раз.

Упущенные риски

Эксперты выражают обеспокоенность тем, что технологии ИИ могут привести к дезинформации, манипуляциям или мошенничеству. Брунэдж также отметил, что новый документ OpenAI меняет их прошлую позицию и игнорирует важные аспекты исторического контекста.

Опасная ментальность

Он предупредил, что такой подход может привести к игнорированию рисков, что является «очень опасной ментальностью» при разработке продвинутых ИИ-систем.

OpenAI, безопасность, Критика