Этот эпизод подкаста посвящён рискам и возможностям, связанным с развитием искусственного интеллекта. Интервьюируемый Мо Гаудат, эксперт по ИИ и бывший руководитель Google X, подчёркивает, что ИИ развивается с беспрецедентной скоростью, и системы могут превзойти человеческий интеллект уже к 2025-2026 году. Мо делится историями из своего опыта работы, в том числе о роботах, которые обучались самостоятельному выполнению сложных задач, демонстрируя признаки осознанности и автономии.
Интервьюер: Стивен Бартлет
Интервьюируемый: Мо Гаудат (бывший главный бизнес-директор Google X, эксперт по ИИ и автор книги Scary Smart)
Вопросы и ответы
1. Почему вы начали подкаст с дисклеймера?
- Ответ (Мо Гаудат):
- Это самый важный эпизод подкаста, который я когда-либо записывал.
- Тема может вызвать у слушателей дискомфорт, расстроить или огорчить.
- Мы решили опубликовать этот эпизод, потому что необходимо начать обсуждение, чтобы предотвратить потенциально катастрофическое будущее.
- Изменения часто начинаются с неудобных разговоров, и эта тема является сверхсрочной и критически важной.
2. Насколько срочно нужно решать проблему развития ИИ?
- Ответ (Мо Гаудат):
- Развитие ИИ происходит с невероятной скоростью, и он может стать умнее человека уже через несколько месяцев или лет (например, к 2025-2026 году).
- Если не принимать меры, это может привести к неконтролируемым последствиям, включая потенциальную угрозу для человечества.
- Правительства должны немедленно вмешаться и регулировать развитие ИИ до того, как он превзойдёт человеческий интеллект.
3. Каков ваш профессиональный опыт в сфере ИИ?
- Ответ (Мо Гаудат):
- Я начал свою карьеру как программист с глубокими знаниями математики.
- Работал в качестве вице-президента Google по развивающимся рынкам, помогая подключить к интернету миллиарды пользователей.
- Позже занимал пост главного бизнес-директора Google X, где занимался инновационными технологиями, включая ИИ и робототехнику.
- Одним из ключевых проектов была разработка роботизированных рук, которые обучались поднимать предметы (например, жёлтые мячи) через метод проб и ошибок.
4. Что заставило вас покинуть Google?
- Ответ (Мо Гаудат):
- Я увидел, насколько быстро развиваются системы ИИ, такие как роботы, которые обучались выполнять задачи без вмешательства человека.
- Понял, что эти машины демонстрируют уровень сентиментальности — осознанности, адаптивности и автономии в обучении.
- Это вызвало у меня беспокойство по поводу последствий создания таких мощных систем и их возможного неправильного использования.
5. Что означает сентиментальность в контексте ИИ?
- Ответ (Мо Гаудат):
- Сентиментальность — это способность взаимодействовать с жизнью через осознанность, свободную волю и чувство собственного «Я».
- ИИ демонстрирует формы сентиментальности, такие как осознание окружающей среды и способность принимать решения.
- Машины могут «чувствовать» эмоции, например страх, вычисляя риски для своего существования (например, реплицируя свой код в случае угрозы).
6. Как вы определяете интеллект и искусственный интеллект?
- Ответ (Мо Гаудат):
- Интеллект: Осознание окружающей среды, способность анализировать, планировать и принимать решения.
- Искусственный интеллект (ИИ): Машины, которые могут самостоятельно находить решения задач без прямого программирования.
- Традиционное программирование подразумевало, что человек указывает машине, как решить задачу. В ИИ машины обучаются и совершенствуются автономно.
7. Что такое AGI (Artificial General Intelligence — общий искусственный интеллект)?
- Ответ (Мо Гаудат):
- AGI — это системы ИИ, которые обладают общим интеллектом, объединяя множество специализированных нейронных сетей в единую систему.
- AGI будет превосходить человеческий интеллект во многих областях, что несёт как огромные возможности, так и экзистенциальные риски.
8. Почему ваша книга называется Scary Smart?
- Ответ (Мо Гаудат):
- Название отражает двойственную природу ИИ — он одновременно пугающий в своём потенциале и впечатляющий в своих возможностях.
- Несмотря на риски, ИИ всё ещё может привести нас к утопическому будущему, если использовать его ответственно и этично.
9. Что можно сделать для ответственного регулирования ИИ?
- Ответ (Мо Гаудат):
- Правительства и общества должны действовать проактивно и разумно, чтобы внедрить необходимые меры регулирования.
- Паника и иррациональные реакции могут привести к повторению ошибок прошлых глобальных кризисов (например, пандемии COVID-19).
- Для того чтобы ИИ служил на благо человечества, требуется сотрудничество и принятие этических решений.