![](https://ru-msk-dr3-1.store.cloud.mts.ru/mave/storage/podcasts/40002c84-ff74-418f-8b17-e8b36639c6dd/images/03709c77-c213-449f-94cf-eb1fe581bf3e_600.jpg)
Алексей Зайцев. Как обмануть искусственный интеллект?
Чат GPT написал курсовую, искусственный интеллект поставил диагноз и назначил лечение, а программы научились выдавать себя за людей, имитируя их внешность и голос. Пугающая фантастика, которая стала реальностью. Но уязвим ли сам искусственный интеллект? Можно ли заставить его ошибиться или он сам способен виртуозно обманывать разработчиков? Помогает ли такая игра в обман узнать больше о работе нейросетей и заглянуть внутрь их искусственного мозга? Как изучение их ошибок влияет на безопасность моделей — и как этих ошибок избежать?
Алексей Зайцев — старший преподаватель Сколтеха, руководитель лаборатории Центра прикладного искусственного интеллекта, кандидат физико-математических наук. Лауреат премии правительства Москвы молодым ученым. Занимается исследованиями в области искусственного интеллекта, разработкой новых методов и технологий. Создал модели по предсказанию засухи, аварий при бурении, качества крыла самолета и другие, используемые в крупных компаниях. Отдельно исследует надежность моделей искусственного интеллекта и возможности их безопасного использования.
25 апреля 2024 г.
Чат GPT написал курсовую, искусственный интеллект поставил диагноз и назначил лечение, а программы научились выдавать себя за людей, имитируя их внешность и голос. Пугающая фантастика, которая стала реальностью. Но уязвим ли сам искусственный интеллект? Можно ли заставить его ошибиться или он сам способен виртуозно обманывать разработчиков? Помогает ли такая игра в обман узнать больше о работе нейросетей и заглянуть внутрь их искусственного мозга? Как изучение их ошибок влияет на безопасность моделей — и как этих ошибок избежать?
Алексей Зайцев — старший преподаватель Сколтеха, руководитель лаборатории Центра прикладного искусственного интеллекта, кандидат физико-математических наук. Лауреат премии правительства Москвы молодым ученым. Занимается исследованиями в области искусственного интеллекта, разработкой новых методов и технологий. Создал модели по предсказанию засухи, аварий при бурении, качества крыла самолета и другие, используемые в крупных компаниях. Отдельно исследует надежность моделей искусственного интеллекта и возможности их безопасного использования.
25 апреля 2024 г.