(Не)этичный выбор: ИИ в мире шуток
Ведущий программы: Михаил Михайлович, некоторые эксперты в области искусственного интеллекта уже сегодня заявляют, что человечество исчерпало ресурс для обучения нейросетей. Так ли это?
Михаил Комаров: Я считаю, что нет. Мы пытаемся работать с оцифрованными данными. Во-первых, у нас не все оцифровано, и пока мы еще не обладаем всей полнотой знаний, в том числе о нашем окружающем мире. Поэтому и искусственный интеллект, и нейросети пока еще не работают со всеми данными, которые могут быть. С другой стороны, мы с вами понимаем, что не все ситуации и не все выводы каких-то ситуаций сейчас оцифрованы, поэтому многие системы обучаются на синтетических данных. То есть, когда нейросеть сама генерирует какие-то ситуации и сама пытается их решить, записывая, какие решения должны произойти. На мой взгляд, без участия человека или хотя бы некоторой верификации, здесь обойтись нельзя. С другой стороны, кажется, что такие возможности и синтетические данные позволяют сократить время разработки системы и ее совершенствование. Я с уверенностью могу сказать, что существующие системы на основе искусственного интеллекта в себя впитали большее количество данных, чем любой человек.
Ведущий программы: Но нет ли риска, что при бесконтрольном употреблении информации в определенный момент нейросеть и искусственный интеллект выйдут из-под контроля?
Михаил Комаров: Во-первых, до тех пор, пока человек устанавливает правила, мы все-таки каким-то образом себя обезопасим. С другой стороны, есть системы, которые работают уже как агенты. То есть называются агенты нейросети, агентные системы. Основное их отличие, например, от классических систем, что они принимают решения уже сами, то есть что-то делают. Вот тут уже начинаются некоторые вопросы. То есть одно дело, вы там что-то спросили, вам что-то ответили, а действия совершаете вы сами. А другое дело, когда, соответственно, система уже начинает принимать какие-то решения. Например, что вам нужно поехать из точки А в точку Б определенным маршрутом. Почему она так решила? Потому что система учла пробки, погоду, заряд вашего электромобиля, еще какие-то, аспекты движения и, может быть, ситуацию с людьми, которые сейчас где-то переходят на переходе. Вы об этом не знаете, вы об этом не задумываетесь, но система уже приняла это решение и, соответственно, ведет вас по этому маршруту, но возникают вопросы. С одной стороны, хорошо, что за вас уже кто-то о чем-то подумал, с другой стороны, вам хотелось бы понимать, почему так, и подобные системы с рассуждениями это могут наглядно объяснить. С другой стороны, возвращаясь к вопросу, не страшно ли это и что может произойти, могут ли они выйти из-под контроля, если у системы не будет задано каких-то ограничений, все равно у человека те действия, которые система будет принимать, могут вызывать много вопросов. В том числе это касается и управления автомобилем. Хорошие примеры, куда свернуть, куда поехать, если на пешеходном переходе люди, сбоку люди и так далее. Мы уже с вами видели ответы на эти примеры, когда автомобиль врезается или в человека, или в отбойник в том числе, находясь с пассажирами внутри. Почему система приняла такое решение? Была такая вероятность, что нужно привернуть туда. Логики, возможно, в этом никакой не было, но система приняла такое решение. Человек поступил бы так же или нет? Не знаю. Возможно, так же, а возможно – иначе. Я считаю, что пока бояться ничего не стоит, до тех пор, пока наши помощники активно не повлияют на наши с вами привычки.
Ведущий программы: Михаил Михайлович, а какие технологические прорывы нам стоит ожидать в ближайшее время, которые кардинально изменят вообще структуру того, что сейчас происходит?
Михаил Комаров: Мне кажется, что основные изменения должны произойти в двух направлениях, а может быть в трёх. Это вычисление, возможно, мы поймём, что квантовые технологии позволят сильнее развиваться технологиям искусственного интеллекта с точки зрения производительности в вычислениях. Второе направление, очень важное, это направление, связанное с энергетикой. Высокопроизводительное вычисление, которое двигает развитие искусственного интеллекта, требует огромного количества энергии. И в том числе, если мы говорим про какие-то персональные устройства, которые будут работать с этими системами, конечно, энергетика – это важная составляющая. И третья, на мой взгляд, серьезная задачка – это инфраструктура, связанная со связью, с каналами передачи данных, потому что у нас все сейчас заточено на обмен данными. Нейросети постоянно должны обмениваться данными, будь то они в умном пылесосе, в умном холодильнике или в нашем смартфоне, а это серьезная нагрузка на инфраструктуру. На мой взгляд, развитие этих направлений позволит усилить и улучшить развитие технологий искусственного интеллекта в ближайшее время.
Ведущий программы: Михаил Михайлович, я как активный пользователь генеративных нейросетей, не могу понять одного: может ли нейросеть придумать шутку или анекдот? Всё-таки можно ли научить нейросеть чувству юмора или это сугубо человеческое?
Михаил Комаров: Есть некоторые сериалы, фильмы, где главные герои после разговоров поясняют, что это был сарказм. Если робота научить улыбаться, говорить, указать что смешно – это когда появляется улыбка на лице, если говорить о том, что есть какая-то ситуация, которая действительно может быть смешной, например, человек представлен не человеком, а каким-то смешным веселым зверьком и это в целом для человека смешно, тогда сеть, наверное, этому научится. И, действительно, эксперименты подобного рода есть. Но здесь очень тонкая грань между тем, что обидит человека, и что, соответственно, будет для него смешным. Нейросеть может вам предложить какую-то шутку, которая вас обидит. И для нее, согласно правилам, все будет здорово. А для вас все зависит от вашего опыта, то есть как бы вы в реальной жизни восприняли такую шутку. Все мы люди разные и отличаемся мы от нейросетей нашим жизненным опытом. Он у всех разный. И поэтому, на мой взгляд, универсальной пилюли нет, хотя чувству юмора нейросети тоже сейчас обучаются.