ТОП 10 лучших статей российской прессы за
Июль 30, 2024

Сложные ИИ-агенты используют машинное обучение для сбора и обработки огромных объемов данных в реальном времени и принятия "обоснованных решений". Это, например, позволяет получать более точные прогнозы при разработке экономической стратегии, причем независимо от отрасли. Область потенциального применения ИИ-агентов очень широка.

Говоря о "границах самостоятельности" ИИ Куренков отмечает, что в данный момент ИИ-модель работает только в рамках датасета и прилагающейся к ней среды. "Чтобы это работало в более сложных условиях принятия решений, требуется проделать еще много работы, поэтому границы самостоятельности ИИ в текущий момент строгие", - говорит Куренков.

Однако, сегодня логика развития того, что называется современным искусственным интеллектом, двигает разработчиков в сторону создания автономных ИИ-систем. Такие системы более эффективные, "умные", и новая разработка российских ученых находится на пике самых передовых исследований. Однако все большая и большая самостоятельность, как в обучении, так и в принятии решений, а также самообучение ИИ стали предметом изучения потенциальных рисков.

Реальная проблема, которую еще предстоит решить, - как не передать контроль за своей жизнью искусственному интеллекту

"Для нас ИИ - это своего рода черный ящик - мы не всегда понимаем, когда и какие результаты будут получены. А если там будет система из агентов, где каждый агент все решает сам, то сложность контроля в разы увеличивается. По сути, это черный ящик внутри черного ящика. В условиях синтетических данных риск предвзятости или ошибок выше, потому что система получает ограниченный набор ситуаций и не видит всю картину мира. Если синтетические данные содержат различные ошибки или отклонения, то наша ИИ-система, будет принимать их как правду и усиливать их", - говорит эксперт "Битрикс24" Сергей Нотевский.

Не только на новые возможности ИИ, но и на новые риски указывает и генеральный директор "Рексофт Консалтинг" Андрей Скорочкин: "Риск передачи ответственности ИИ есть. Это реальная проблема, которую еще предстоит решить обществу. Как не передать контроль за своей жизнью искусственному интеллекту? Кто будет принимать ключевые решения? Есть, например, классическая дилемма беспилотного автомобиля, которая так и не решена: едет машина, и ситуация складывается так, что авария неизбежна и кто-то один из пассажиров пострадает. Слева пожилая женщина, справа ребенок. Какое решение ИИ автомобиля должен принять? Кто будет писать этот алгоритм принятия решения? Кто понесет в итоге ответственность? Поэтому этичность играет важную, я бы сказал, определяющую роль в развитии и применении ИИ".

Разработчики датасета настроены более оптимистично. "Изучение моделей, которые обучают другие модели, развивается активно, но это в любом случае происходит под контролем человека, так как такие модели-учителя представляют из себя специально созданные для этой цели узконаправленные инструменты", - уверен Куренков.