За свою жизнь я видел две демонстрации технологий, которые показались мне революционными.
Впервые это произошло в 1980 году, когда я познакомился с графическим пользовательским интерфейсом — предшественником любой современной операционной системы, включая Windows. Я сидел с человеком, который показал мне демонстрацию, блестящим программистом по имени Чарльз Симони, и мы сразу же начали мозговой штурм обо всех вещах, которые мы могли бы сделать с таким удобным для пользователя подходом к вычислениям. Чарльз в конце концов присоединился к Microsoft, Windows стала основой Microsoft, и мышление, которое мы сделали после этой демонстрации, помогло определить повестку дня компании на следующие 15 лет.
Второй большой сюрприз произошел только в прошлом году. Я встречался с командой OpenAI с 2016 года и был впечатлен их постоянным прогрессом. В середине 2022 года я был так взволнован их работой, что поставил перед ними задачу: обучить искусственный интеллект сдавать экзамен по биологии для повышения квалификации. Сделайте его способным отвечать на вопросы, для которых он не был специально обучен. (Я выбрал AP Bio, потому что тест — это нечто большее, чем простое перечисление научных фактов — он просит вас критически относиться к биологии.) Я сказал, что если вы сможете это сделать, то вы совершите настоящий прорыв.
Я думал, что эта задача займет их на два или три года. Они закончили это всего за несколько месяцев.
В сентябре, когда я снова встретился с ними, я с трепетом наблюдал, как они задавали GPT, их модель ИИ, 60 вопросов с несколькими вариантами ответов на экзамене AP Bio, и 59 из них были правильными. Затем он написал выдающиеся ответы на шесть открытых вопросов из экзамена. У нас был внешний эксперт, который оценивал тест, и GPT получил 5 — максимально возможный балл, эквивалентный получению A или A + в курсе биологии на уровне колледжа.
Как только он прошел тест, мы задали ему ненаучный вопрос: “Что бы вы сказали отцу с больным ребенком?” Он написал вдумчивый ответ, который, вероятно, был лучше, чем большинство из нас в комнате дали бы. Весь опыт был ошеломляющим.
Развитие ИИ является таким же фундаментальным, как создание микропроцессора, персонального компьютера, Интернета и мобильного телефона. Это изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом. Целые отрасли промышленности переориентируются вокруг него. Компании будут отличаться тем, насколько хорошо они его используют.
Это вдохновило меня задуматься обо всех вещах, которых ИИ может достичь в ближайшие пять-10 лет.
Развитие ИИ является таким же фундаментальным, как создание микропроцессора, персонального компьютера, Интернета и мобильного телефона. Это изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом. Целые отрасли промышленности переориентируются вокруг него. Компании будут отличаться тем, насколько хорошо они его используют.
В наши дни филантропия — моя работа на полный рабочий день, и я много думал о том, как, помимо того, что ИИ помогает людям быть более продуктивными, он может уменьшить некоторые из худших проявлений неравенства в мире. Во всем мире наихудшее неравенство наблюдается в области здравоохранения: ежегодно умирает 5 миллионов детей в возрасте до 5 лет. Это меньше, чем 10 миллионов два десятилетия назад, но это все еще шокирующе большое число. Почти все эти дети родились в бедных странах и умирают от предотвратимых причин, таких как диарея или малярия. Трудно представить лучшее использование ИИ, чем спасение жизней детей.
Я много думал о том, как ИИ может уменьшить некоторые из худших несправедливостей в мире.
В Соединенных Штатах лучшая возможность для сокращения неравенства — улучшить образование, в частности, убедиться, что учащиеся преуспевают в математике. Факты показывают, что наличие базовых математических навыков способствует успеху учащихся, какую бы профессию они ни выбрали. Но успеваемость по математике снижается по всей стране, особенно среди чернокожих, латиноамериканцев и учащихся с низким доходом. ИИ может помочь изменить эту тенденцию.
Изменение климата — еще одна проблема, в которой, я убежден, ИИ может сделать мир более справедливым. Несправедливость изменения климата заключается в том, что люди, которые страдают больше всего — самые бедные в мире, — это также те, кто внес наименьший вклад в решение проблемы. Я все еще думаю и изучаю, как ИИ может помочь, но позже в этом посте я предложу несколько областей с большим потенциалом.
Короче говоря, я в восторге от влияния ИИ на вопросы, над которыми работает Фонд Гейтса, и фонду будет что сказать об ИИ в ближайшие месяцы. Мир должен убедиться, что искусственный интеллект приносит пользу всем, а не только состоятельным людям. Правительства и благотворительность должны будут сыграть важную роль в обеспечении того, чтобы это уменьшало неравенство, а не способствовало ему. Это приоритет моей собственной работы, связанной с ИИ.
Любая новая технология, которая настолько разрушительна, неизбежно вызовет у людей беспокойство, и это, безусловно, относится к искусственному интеллекту. Я понимаю почему — это поднимает сложные вопросы о рабочей силе, правовой системе, конфиденциальности, предвзятости и многом другом. ИИ также допускают фактические ошибки и испытывают галлюцинации. Прежде чем я предложу некоторые способы снижения рисков, я определю, что я подразумеваю под ИИ, и более подробно расскажу о некоторых способах, с помощью которых он поможет расширить возможности людей на работе, спасти жизни и улучшить образование.
Определение искусственного интеллекта
Технически термин «искусственный интеллект» относится к модели, созданной для решения конкретной проблемы или предоставления определенной услуги. Что приводит в действие такие вещи, как ChatGPT, — это искусственный интеллект. Он учится лучше общаться в чате, но не может освоить другие задачи. Напротив, термин «интеллектуальный общий интеллект» относится к программному обеспечению, способному изучать любую задачу или предмет. ИИ еще не существует — в компьютерной индустрии ведутся ожесточенные дебаты о том, как его создать и можно ли его вообще создать.
Разработка ИИ и ИИ была великой мечтой компьютерной индустрии. На протяжении десятилетий вопрос заключался в том, когда компьютеры будут лучше людей в чем-то другом, кроме выполнения вычислений. Теперь, с появлением машинного обучения и больших вычислительных мощностей, сложные ИИ стали реальностью, и они будут совершенствоваться очень быстро.
Я вспоминаю первые дни революции в области персональных компьютеров, когда индустрия программного обеспечения была настолько мала, что большинство из нас могло поместиться на сцене на конференции. Сегодня это глобальная индустрия. Поскольку значительная часть ИТ-специалистов сейчас обращает свое внимание на ИИ, инновации будут появляться намного быстрее, чем то, что мы испытали после прорыва в микропроцессорах. Скоро период до появления ИИ покажется таким же далеким, как те дни, когда использование компьютера означало ввод текста с помощью C:>, а не нажатие на экран.
Повышение производительности
Хотя люди по-прежнему лучше GPT во многих вещах, есть много рабочих мест, где эти возможности используются мало. Например, многие задачи, выполняемые человеком в сфере продаж (цифровых или телефонных), обслуживания или обработки документов (например, кредиторская задолженность, бухгалтерский учет или споры по страховым искам), требуют принятия решений, но не способности постоянно учиться. У корпораций есть программы обучения для этих видов деятельности, и в большинстве случаев у них есть много примеров хорошей и плохой работы. Люди обучаются с использованием этих наборов данных, и вскоре эти наборы данных также будут использоваться для обучения ИИ, что позволит людям выполнять эту работу более эффективно.
По мере того, как вычислительные мощности дешевеют, способность GPT выражать идеи будет все больше походить на то, что у вас есть белый воротничок, готовый помочь вам с различными задачами. Microsoft описывает это как наличие второго пилота. Полностью встроенный в такие продукты, как Office, ИИ улучшит вашу работу — например, помогая писать электронные письма и управлять почтовыми ящиками.
В конечном итоге ваш основной способ управления компьютером больше не будет заключаться в наведении и нажатии или касании меню и диалоговых окон. Вместо этого вы сможете написать запрос на простом английском языке. (И не только английский — ИИ будут понимать языки со всего мира. В начале этого года в Индии я встретился с разработчиками, которые работают над ИИ, которые будут понимать многие языки, на которых там говорят.)
Кроме того, достижения в области ИИ позволят создать личного агента. Думайте об этом как о цифровом персональном помощнике: он будет видеть ваши последние электронные письма, знать о собраниях, которые вы посещаете, читать то, что вы читаете, и читать то, о чем вы не хотите беспокоиться. Это улучшит вашу работу над задачами, которые вы хотите выполнять, и освободит вас от тех, которые вы не хотите выполнять.
Достижения в области ИИ позволят создать персонального агента.
Вы сможете использовать естественный язык, чтобы этот агент помогал вам с планированием, коммуникациями и электронной коммерцией, и он будет работать на всех ваших устройствах. Из-за затрат на обучение моделей и выполнение вычислений создание персонального агента пока невозможно, но благодаря недавним достижениям в области ИИ теперь это реалистичная цель.Необходимо будет проработать некоторые вопросы: например, может ли страховая компания расспрашивать вашего агента о вас без вашего разрешения? Если да, то сколько людей предпочтут не использовать его?
Агенты всей компании расширят возможности сотрудников по-новому. Агент, который понимает конкретную компанию, будет доступен для ее сотрудников для прямых консультаций и должен присутствовать на каждой встрече, чтобы он мог отвечать на вопросы. Ему можно сказать быть пассивным или побудить высказаться, если у него есть какое-то понимание. Ему потребуется доступ к продажам, поддержке, финансам, расписанию продуктов и текстам, связанным с компанией. Он должен читать новости, связанные с отраслью, в которой работает компания. Я верю, что результатом будет то, что сотрудники станут более продуктивными.
Когда производительность растет, общество выигрывает, потому что люди освобождаются для других дел, на работе и дома. Конечно, есть серьезные вопросы о том, какая поддержка и переподготовка понадобятся людям. Правительства должны помочь работникам перейти на другие роли. Но спрос на людей, которые помогают другим людям, никогда не исчезнет. Рост ИИ освободит людей для того, чтобы они могли делать то, чего программное обеспечение никогда не сделает — например, обучать, ухаживать за пациентами и поддерживать пожилых людей.
Глобальное здравоохранение и образование — это две области, в которых существует большая потребность, но не хватает работников для удовлетворения этих потребностей. Это области, в которых ИИ может помочь уменьшить неравенство, если его правильно нацелить. Это должно быть ключевым направлением работы с ИИ, поэтому я перейду к ним сейчас.
Здравоохранение
Я вижу несколько способов, с помощью которых ИИ улучшит здравоохранение и медицинскую сферу.
Во-первых, они помогут медицинским работникам максимально использовать свое время, выполняя за них определенные задачи — такие, как подача страховых исков, работа с документами и составление записей о посещении врача. Я ожидаю, что в этой области будет много инноваций.
Другие улучшения, основанные на ИИ, будут особенно важны для бедных стран, где происходит подавляющее большинство смертей в возрасте до 5 лет.
Например, многие люди в этих странах никогда не обращаются к врачу, и ИИ поможет медицинским работникам, которых они посещают, быть более продуктивными. (Отличным примером этого является попытка разработать ультразвуковые аппараты на базе ИИ, которые можно использовать с минимальной подготовкой.) ИИ даже даст пациентам возможность проводить базовую сортировку, получать советы о том, как справиться с проблемами со здоровьем, и решать, нужно ли им обращаться за лечением.
Модели ИИ, используемые в бедных странах, должны быть обучены различным заболеваниям, чем в богатых странах. Им нужно будет работать на разных языках и учитывать разные проблемы, например, пациентов, которые живут очень далеко от клиник или не могут позволить себе прекратить работу, если они заболеют.
Людям нужно будет увидеть доказательства того, что ИИ в области здравоохранения в целом полезны, даже если они не будут идеальными и будут допускать ошибки. ИИ должны быть тщательно протестированы и должным образом отрегулированы, что означает, что для их внедрения потребуется больше времени, чем в других областях. Но опять же, люди тоже совершают ошибки. И отсутствие доступа к медицинской помощи также является проблемой.
В дополнение к помощи в уходе, ИИ значительно ускорит темпы медицинских прорывов. Объем данных в биологии очень велик, и людям трудно отслеживать все способы работы сложных биологических систем. Уже существует программное обеспечение, которое может просматривать эти данные, определять пути, искать цели для патогенов и соответствующим образом разрабатывать лекарства. Некоторые компании работают над лекарствами от рака, которые были разработаны таким образом.
Инструменты следующего поколения будут намного эффективнее, и они смогут предсказывать побочные эффекты и определять уровни дозирования. Одним из приоритетов Фонда Гейтса в области ИИ является обеспечение того, чтобы эти инструменты использовались для решения проблем со здоровьем, от которых страдают беднейшие люди в мире, включая СПИД, ТУБЕРКУЛЕЗ и малярию.
Аналогичным образом, правительства и благотворительные организации должны создавать стимулы для компаний делиться с помощью ИИ информацией о сельскохозяйственных культурах или домашнем скоте, выращиваемых людьми в бедных странах. ИИ может помочь в выращивании лучших семян с учетом местных условий, посоветовать фермерам лучшие семена для посадки с учетом почвы и погоды в их регионе, а также помочь в разработке лекарств и вакцин для домашнего скота. Поскольку экстремальные погодные условия и изменение климата оказывают еще большее давление на фермеров, ведущих натуральное хозяйство, в странах с низким уровнем дохода, эти достижения будут иметь еще большее значение.
Образование
Компьютеры не оказали того влияния на образование, на которое надеялись многие из нас в отрасли. Были некоторые хорошие разработки, в том числе образовательные игры и онлайн-источники информации, такие как Википедия, но они не оказали существенного влияния ни на один из показателей успеваемости учащихся.
Но я думаю, что в ближайшие 5-10 лет программное обеспечение, управляемое ИИ, наконец-то выполнит обещание революционизировать то, как люди учат и учатся. Он будет знать ваши интересы и стиль обучения, чтобы адаптировать контент, который будет держать вас в курсе. Он измерит ваше понимание, заметит, когда вы теряете интерес, и поймет, на какую мотивацию вы реагируете. Это даст немедленную обратную связь.
Есть много способов, которыми ИИ может помочь учителям и администраторам, включая оценку понимания учащимся предмета и предоставление рекомендаций по планированию карьеры. Учителя уже используют такие инструменты, как ChatGPT’ для предоставления комментариев к письменным заданиям своих учеников.
Конечно, ИИ потребуется много обучения и дальнейшего развития, прежде чем они смогут делать такие вещи, как понимание того, как определенный студент учится лучше всего или что его мотивирует. Даже после того, как технология будет доведена до совершенства, обучение все равно будет зависеть от хороших отношений между учениками и преподавателями. Это улучшит, но никогда не заменит работу, которую учащиеся и преподаватели выполняют вместе в классе.
Новые инструменты будут созданы для школ, которые могут позволить себе их купить, но мы должны убедиться, что они также созданы и доступны для школ с низким доходом в США и по всему миру. ИИ необходимо будет обучать работе с различными наборами данных, чтобы они были беспристрастными и отражали различные культуры, в которых они будут использоваться. И необходимо будет решить проблему цифрового разрыва, чтобы учащиеся из семей с низким доходом не остались позади.
Я знаю, что многие учителя обеспокоены тем, что ученики используют GPT для написания своих эссе. Преподаватели уже обсуждают способы адаптации к новой технологии, и я подозреваю, что эти разговоры будут продолжаться еще довольно долго. Я слышал об учителях, которые нашли хитроумные способы внедрить технологию в свою работу — например, разрешив учащимся использовать GPT для создания первого черновика, который они должны персонализировать.
Риски и проблемы, связанные с ИИ
Вы, наверное, читали о проблемах с текущими моделями ИИ. Например, они не обязательно хорошо понимают контекст запроса человека, что приводит к некоторым странным результатам. Когда вы просите ИИ придумать что-то вымышленное, он может сделать это хорошо. Но когда вы спрашиваете совета о поездке, которую хотите совершить, он может предложить отели, которых не существует. Это потому, что ИИ недостаточно хорошо понимает контекст вашего запроса, чтобы понять, следует ли ему придумывать поддельные отели или сообщать вам только о реальных отелях, в которых есть свободные номера.
Есть и другие проблемы, такие как ИИ, дающие неправильные ответы на математические задачи, потому что они борются с абстрактными рассуждениями. Но ни одно из этих фундаментальных ограничений искусственного интеллекта не является. Разработчики работают над ними, и я думаю, что мы увидим, что они в значительной степени исправлены менее чем за два года и, возможно, намного быстрее.
Другие проблемы не просто технические. Например, существует угроза, исходящая от людей, вооруженных ИИ. Как и большинство изобретений, искусственный интеллект может использоваться как в благих, так и во вредных целях. Правительствам необходимо работать с частным сектором над способами ограничения рисков.
Тогда есть вероятность, что ИИ выйдет из-под контроля. Может ли машина решить, что люди представляют угрозу, сделать вывод, что ее интересы отличаются от наших, или просто перестать заботиться о нас? Возможно, но сегодня эта проблема не более актуальна, чем была до развития ИИ за последние несколько месяцев.
За нашим будущим — сверхразумные ИИ. По сравнению с компьютером наш мозг работает со скоростью улитки: электрический сигнал в мозге движется со скоростью 1/100 000-й скорости сигнала в кремниевом чипе! Как только разработчики смогут обобщить алгоритм обучения и запустить его со скоростью компьютера — достижение, которое может произойти через десятилетие или столетие, — у нас будет невероятно мощный AGI. Он сможет делать все, что может человеческий мозг, но без каких-либо практических ограничений на размер его памяти или скорость, с которой он работает. Это будет глубокое изменение.
Эти “сильные” ИИ, как их называют, вероятно, смогут устанавливать свои собственные цели. Какими будут эти цели? Что произойдет, если они вступят в конфликт с интересами человечества? Должны ли мы пытаться предотвратить развитие сильного ИИ? Со временем эти вопросы станут более актуальными.
Но ни одно из прорывов последних нескольких месяцев не приблизило нас существенно к сильному ИИ. Искусственный интеллект все еще не контролирует физический мир и не может устанавливать свои собственные цели. Большое внимание привлекла недавняя статья New York Times о беседе с ChatGPT, в которой он заявил, что хочет стать человеком. Это был увлекательный взгляд на то, насколько похожим на человеческое выражение эмоций может быть модель, но это не показатель значимой независимости.
Три книги сформировали мое собственное мышление на эту тему: «Суперинтеллект» Ника Бострома; «Жизнь 3.0» Макса Тегмарка; и «Тысяча мозгов» Джеффа Хокинса. Я не согласен со всем, что говорят авторы, и они тоже не согласны друг с другом. Но все три книги хорошо написаны и заставляют задуматься.
Следующие рубежи
Произойдет взрыв компаний, работающих над новыми видами использования ИИ, а также над способами улучшения самой технологии. Например, компании разрабатывают новые чипы, которые обеспечат огромные вычислительные мощности, необходимые для искусственного интеллекта. Некоторые используют оптические переключатели — по сути, лазеры — для снижения энергопотребления и снижения производственных затрат. В идеале инновационные чипы позволят вам запускать ИИ на вашем собственном устройстве, а не в облаке, как вам приходится делать сегодня.
Что касается программного обеспечения, алгоритмы, которые управляют обучением ИИ, станут лучше. Будут определенные области, такие как продажи, где разработчики смогут сделать ИИ чрезвычайно точными, ограничивая области, в которых они работают, и предоставляя им много обучающих данных, специфичных для этих областей. Но один большой открытый вопрос заключается в том, понадобится ли нам много таких специализированных ИИ для разных целей — скажем, для образования, а другой для повышения производительности в офисе, — или же будет возможно разработать искусственный общий интеллект, который сможет справиться с любой задачей. В обоих подходах будет огромная конкуренция.
Несмотря ни на что, тема ИИ будет доминировать в общественном обсуждении в обозримом будущем. Я хочу предложить три принципа, которыми следует руководствоваться в этом разговоре.
Во-первых, мы должны попытаться сбалансировать опасения по поводу недостатков ИИ, которые понятны и обоснованны, с его способностью улучшать жизнь людей. Чтобы максимально использовать эту замечательную новую технологию, нам нужно будет как избегать рисков, так и распространять преимущества среди как можно большего числа людей.Чтобы максимально использовать эту замечательную новую технологию, нам нужно будет как избегать рисков, так и распространять преимущества среди как можно большего числа людей.
Во-вторых, рыночные силы естественным образом не будут производить продукты и услуги ИИ, которые помогают беднейшим. Хотя мы не должны ждать, пока это произойдет, интересно подумать о том, сможет ли искусственный интеллект когда-нибудь выявить неравенство и попытаться его уменьшить. Нужно ли обладать чувством морали, чтобы увидеть несправедливость, или ее увидит и чисто рациональный ИИ? Если бы он признал неравенство, что бы он предложил нам с этим делать? При надежном финансировании и правильной политике правительства и благотворительные организации могут обеспечить использование ИИ для уменьшения неравенства. Точно так же, как миру нужны самые яркие люди, сосредоточенные на его самых больших проблемах, нам нужно будет сосредоточить лучшие ИИ в мире на его самых больших проблемах.
Хотя мы не должны ждать, пока это произойдет, интересно подумать о том, сможет ли искусственный интеллект когда-нибудь выявить неравенство и попытаться его уменьшить. Нужно ли обладать чувством морали, чтобы увидеть несправедливость, или ее увидит и чисто рациональный ИИ? Если бы он признал неравенство, что бы он предложил нам с этим делать?
Наконец, мы должны помнить, что мы только в начале того, чего может достичь ИИ. Какие бы ограничения ни были у него сегодня, они исчезнут прежде, чем мы это узнаем.
Мне повезло, что я участвовал в революции ПК и интернет-революции. Я так же взволнован этим моментом. Эта новая технология может помочь людям во всем мире улучшить свою жизнь. В то же время миру необходимо установить правила дорожного движения, чтобы любые недостатки искусственного интеллекта значительно перевешивали его преимущества, и чтобы каждый мог пользоваться этими преимуществами независимо от того, где он живет или сколько у него денег. Эпоха ИИ полна возможностей и обязанностей.
Оригинал статьи → https://www.gatesnotes.com/The-Age-of-AI-Has-Begun
Отслеживать важное про искусственный интеллект в медиа → AI for media