Как ИИ изменит мир?

thumbnailUrl

How will AI change the world? • Как ИИ изменит мир?

Explore the current limitations of artificial intelligence and the possibility of creating human-compatible technology. -- In the coming years, artificial intelligence is probably going to change your life— and likely the entire world. But people have…Как ИИ изменит мир? - 3927758

PT5M

True

2022-12-06T20:44:25+03:00

embedUrl

Источник

В ближайшие годы искусственный интеллект, вероятно, изменит вашу жизнь и, вероятно, весь мир. Но людям трудно договориться о том, как именно. Ниже приведены выдержки из интервью, в котором известный профессор компьютерных наук и эксперт по искусственному интеллекту Стюарт Рассел помогает отделить смысл от чепухи.



Есть большая разница между тем, чтобы попросить человека что-то сделать, и тем, чтобы поставить это в качестве цели системе ИИ. Когда вы просите человека принести вам чашку кофе, вы не имеете в виду, что это должно быть миссией его жизни, и ничто другое во вселенной не имеет значения. Даже если им придется убить всех остальных в Starbucks, чтобы принести вам кофе до того, как он закроется, они должны это сделать. Нет, это не то, что вы имеете в виду. Все остальное, о чем мы заботимся друг о друге, должно учитываться и в вашем поведении.



И проблема с тем, как мы сейчас создаем системы ИИ, заключается в том, что мы ставим перед ними фиксированную цель. Алгоритмы требуют от нас указать все в цели. А если вы скажете, можем ли мы исправить закисление океанов? Да, у вас может быть каталитическая реакция, которая делает это очень эффективно, но она потребляет четверть кислорода в атмосфере, что, по-видимому, заставит нас умереть довольно медленно и неприятно в течение нескольких часов.



Итак, как нам избежать этой проблемы? Вы можете сказать: «Хорошо, но поаккуратнее указывайте цель — не забывайте об атмосферном кислороде». А потом, конечно, какой-то побочный эффект реакции в океане отравляет всю рыбу. Ладно, я имел в виду и не убивать рыбу. А потом, а как же водоросли? Не делайте ничего, что приведет к гибели всех водорослей. И так далее и тому подобное.



И причина того, что мы не должны делать этого с людьми, заключается в том, что люди часто знают, что они не знают всего того, что нас волнует. Если вы попросите человека принести вам чашку кофе, а вы оказались в отеле «Жорж Санд» в Париже, где кофе стоит 13 евро за чашку, вполне разумно вернуться и сказать, ну, это 13 евро, ты уверен, что хочешь его, или я мог бы пойти в соседний дом и взять его? И это совершенно нормальное поведение человека. Чтобы спросить, я собираюсь перекрасить ваш дом — ничего, если я сниму водосточные трубы, а затем поставлю их обратно? Мы не думаем об этом как о чем-то очень сложном, но в системах ИИ этого нет, потому что то, как мы их строим сейчас, они должны знать полную цель. Если мы создадим системы, которые знают, что они не знают, какова цель, тогда они начнут демонстрировать такое поведение, например спрашивать разрешения, прежде чем избавиться от всего кислорода в атмосфере.



Во всех этих смыслах контроль над системой ИИ исходит из неуверенности машины в том, какова истинная цель. И когда вы строите машины, которые с уверенностью верят, что у них есть цель, вот тогда вы и получаете такого рода психопатическое поведение. И я думаю, что мы видим то же самое у людей.



Что произойдет, когда ИИ общего назначения ударит по реальной экономике? Как все меняется? Можем ли мы адаптироваться? Это очень старый момент. Удивительно, но у Аристотеля действительно есть отрывок, где он говорит: смотрите, если бы у нас были полностью автоматизированные ткацкие станки и медиаторы, которые могли бы щипать лиру и воспроизводить музыку без участия человека, тогда нам не понадобились бы рабочие.



Эта идея, которую, я думаю, Кейнс назвал технологической безработицей в 1930 году, очень очевидна для людей. Они думают: да, конечно, если машина будет работать, я останусь без работы.



Вы можете подумать о складах, которые компании в настоящее время используют для электронной коммерции, они наполовину автоматизированы. Это работает следующим образом: на старом складе, где повсюду свалены тонны вещей, а люди ходят и роются, а затем возвращают и отправляют, есть робот, который идет и забирает стеллаж. который содержит то, что вам нужно, но человек должен взять объект из мусорного ведра или с полки, потому что это все еще слишком сложно. Но в то же время, вы бы сделали робота, который был бы достаточно точен, чтобы быть в состоянии выбрать практически любой предмет из очень большого разнообразия предметов, которые вы можете купить? Это одним махом устранило бы 3 или 4 миллиона рабочих мест?



Есть интересная история, написанная Э. М. Форстером, в которой все полностью зависят от машины. История действительно о том, что если вы передадите управление своей цивилизацией машинам, то у вас потом пропадет стимул разбираться в ней самому или учить следующее поколение, как это понимать. Вы можете видеть «ВАЛЛ-И» на самом деле как современную версию, где все обессилены и инфантилизированы машиной, что до сих пор было невозможно.



Мы многое вложили в нашу цивилизацию в книгах, но книги не могут вести ее за нас. И поэтому мы всегда должны учить следующее поколение. Если разобраться, это около триллиона человеко-лет преподавания и обучения и неразрывная цепочка, восходящая к десяткам тысяч поколений. Что произойдет, если эта цепочка порвется?



Я думаю, это то, что мы должны понимать по мере развития ИИ. Фактическую дату появления ИИ общего назначения вы не сможете точно определить, это не один день. Это также не тот случай, когда все или ничего. Воздействие будет усиливаться. Так что с каждым продвижением ИИ он значительно расширяет спектр задач.



Так что в этом смысле, я думаю, большинство экспертов говорят, что к концу века у нас, очень, очень вероятно, будет ИИ общего назначения. Медиана что-то около 2045 года. Я немного более консервативен. Я думаю, что проблема сложнее, чем мы думаем.



Мне нравится, что Джон Макафи, он был одним из основателей ИИ, когда ему задали этот вопрос, он сказал, что где-то между пятью и 500 годами. И нам понадобится, я думаю, несколько Эйнштейнов, чтобы это произошло.