Эпоха перемен: как ИИ меняет правила игры на рынке труда

Искусственный интеллект перестал быть понятием из научной фантастики, стремительно превращаясь в неотъемлемую часть нашей повседневной и профессиональной жизни. Его влияние на рынок труда ощущается все сильнее, вызывая одновременно и энтузиазм по поводу новых возможностей, и опасения относительно будущего существующих профессий. Алгоритмы машинного обучения, нейронные сети и системы обработки естественного языка проникают в различные отрасли, автоматизируя рутинные задачи, повышая эффективность процессов и создавая совершенно новые бизнес-модели.




Это не просто очередная технологическая волна, это фундаментальный сдвиг, требующий глубокого осмысления и адаптации как от отдельных работников, так и от целых компаний и государственных структур. Понимание механизмов этого влияния и векторов развития становится ключевым для успешной навигации в формирующейся новой экономической реальности. Технологии ИИ способны анализировать огромные массивы данных, выявлять скрытые закономерности и принимать решения с невиданной ранее скоростью и точностью, что неизбежно трансформирует рабочие процессы и требования к специалистам.

Отрасли на передовой: где ии уже трансформирует профессии

Влияние искусственного интеллекта не распределяется равномерно; некоторые отрасли испытывают его воздействие особенно остро.

Производство и логистика

В производственном секторе ИИ управляет роботизированными линиями, оптимизирует цепочки поставок в реальном времени, предсказывает поломки оборудования и контролирует качество продукции с высокой точностью. Это ведет к повышению производительности, снижению издержек и сокращению доли ручного труда на конвейерах. В логистике ИИ оптимизирует маршруты доставки, управляет складскими запасами и автоматизирует работу сортировочных центров. Развитие беспилотного транспорта, управляемого ИИ, обещает кардинально изменить сферу грузоперевозок и доставки.

Финансы и клиентский сервис

Финансовая отрасль активно использует ИИ для оценки кредитных рисков, алгоритмической торговли, обнаружения мошеннических операций и персонализированного финансового консультирования через чат-ботов. Банки и страховые компании автоматизируют обработку документов и запросов клиентов. В клиентском сервисе интеллектуальные чат-боты и голосовые помощники берут на себя обработку стандартных запросов 24/7, освобождая людей для решения более сложных и нестандартных задач, требующих эмпатии и глубокого понимания контекста.

Здравоохранение и наука

В медицине ИИ помогает в диагностике заболеваний по медицинским изображениям (рентген, КТ, МРТ), анализе генетических данных для подбора персонализированного лечения, разработке новых лекарств и предсказании эпидемий. Роботизированная хирургия, управляемая или ассистируемая ИИ, повышает точность операций. В научных исследованиях ИИ ускоряет анализ данных, моделирование сложных систем и поиск новых закономерностей в астрономии, физике, биологии.

Творческие индустрии и медиа

Даже творческие сферы не остаются в стороне. ИИ используется для генерации текстов, музыки, изображений, создания персонажей для видеоигр, персонализации новостных лент и рекомендаций контента. Хотя ИИ пока не может полностью заменить человеческую креативность, он становится мощным инструментом для художников, дизайнеров, писателей и музыкантов, автоматизируя рутинные этапы творческого процесса.

Сокращение или созидание: баланс рабочих мест в эпоху ИИ

Один из самых острых вопросов – приведет ли распространение ИИ к массовой безработице? Картина оказывается сложнее простого вытеснения людей машинами. Действительно, автоматизация на базе ИИ неизбежно приводит к сокращению рабочих мест, связанных с выполнением рутинных, повторяющихся задач, как физических, так и когнитивных. Это касается операторов ввода данных, работников конвейера, кассиров, некоторых категорий офисных служащих, выполняющих стандартизированные операции. Однако одновременно ИИ стимулирует создание новых профессий и трансформирует существующие. Возникает спрос на специалистов по разработке, внедрению и обслуживанию ИИ-систем: инженеров машинного обучения, аналитиков данных (Data Scientists), специалистов по маркировке данных, инженеров по обработке естественного языка.




Появляются и совершенно новые роли, такие как аудиторы алгоритмов, специалисты по этике ИИ, тренеры ИИ, промпт-инженеры. Более того, многие существующие профессии не исчезают, а трансформируются. Врачам ИИ помогает ставить диагнозы, юристам – анализировать огромные объемы документов, маркетологам – точнее настраивать рекламные кампании. Фокус смещается с выполнения рутинных операций на использование ИИ как инструмента для решения более сложных задач, требующих критического мышления, креативности и межличностного взаимодействия. Таким образом, речь идет не столько о тотальном сокращении, сколько о глубокой структурной перестройке рынка труда.

Новый набор навыков: что ценится в мире, где работает ИИ

Чтобы оставаться востребованным специалистом в эпоху ИИ, необходимо развивать определенный набор компетенций. Прежние модели карьеры, основанные на получении одной профессии на всю жизнь, уходят в прошлое. На первый план выходят гибкость, адаптивность и готовность к непрерывному обучению.

Технологическая грамотность и работа с данными

Базовое понимание принципов работы ИИ и умение взаимодействовать с интеллектуальными системами становятся все более важными практически в любой сфере. Специалистам необходимо уметь использовать ИИ-инструменты для повышения своей эффективности. Особую ценность приобретают навыки работы с данными: их сбор, анализ, интерпретация и визуализация. Умение задавать правильные вопросы данным и ИИ-системам становится критически важным.

Когнитивные навыки высшего порядка

ИИ отлично справляется с задачами, требующими обработки больших объемов информации и выполнения четких алгоритмов. Однако он пока уступает человеку в сферах, требующих критического мышления, комплексного решения проблем (complex problem solving), креативности, оригинальности и стратегического видения. Способность анализировать ситуацию с разных сторон, выходить за рамки шаблонов, генерировать новые идеи и принимать взвешенные решения в условиях неопределенности – это то, что будет отличать успешных специалистов.

Социальные и эмоциональные навыки (Soft Skills)

Навыки межличностного взаимодействия, эмоциональный интеллект, умение работать в команде, вести переговоры, убеждать, эмпатия – все это остается прерогативой человека. В мире, где технологии берут на себя все больше рутинных задач, способность эффективно коммуницировать, выстраивать отношения и управлять людьми становится ключевым конкурентным преимуществом. Лидерство, наставничество и умение мотивировать приобретают особое значение.

Адаптивность и обучаемость

Технологии развиваются стремительно, и знания быстро устаревают. Готовность и способность учиться и переучиваться на протяжении всей жизни (lifelong learning) становятся не просто желательными, а необходимыми качествами. Это включает в себя освоение новых инструментов, приобретение новых знаний и гибкую адаптацию к изменяющимся требованиям рынка труда и новым рабочим процессам.

Подготовка к будущему: стратегии адаптации для всех

Успешный переход к экономике, насыщенной ИИ, требует скоординированных усилий со стороны отдельных людей, компаний и государства.

Индивидуальная стратегия

Каждому человеку важно осознать неизбежность перемен и проактивно инвестировать в свое развитие. Это означает постоянное самообразование, освоение новых цифровых инструментов, развитие упомянутых выше когнитивных и социальных навыков. Важно не бояться ИИ, а учиться использовать его как помощника, повышающего собственную ценность на рынке труда. Полезно анализировать, какие задачи в рамках текущей профессии могут быть автоматизированы, и фокусироваться на развитии тех компетенций, которые ИИ пока не может воспроизвести. Переквалификация (reskilling) и повышение квалификации (upskilling) становятся нормой.

Роль компаний

Бизнесу необходимо не только внедрять ИИ для повышения эффективности, но и инвестировать в своих сотрудников. Это включает организацию программ обучения и переподготовки, создание культуры непрерывного развития, адаптацию организационных структур и рабочих процессов. Важно также внедрять ИИ этично и прозрачно, объясняя сотрудникам цели и последствия автоматизации, предлагая возможности для перехода на новые роли внутри компании. Переосмысление должностей и создание гибридных команд, где люди и ИИ работают вместе, – перспективное направление.

Задачи государства и системы образования

Государственная политика должна быть направлена на смягчение негативных последствий перехода и создание условий для адаптации. Это включает реформу системы образования с акцентом на развитие навыков будущего, поддержку программ переподготовки и повышения квалификации для взрослого населения, создание систем социальной поддержки для тех, кто теряет работу из-за автоматизации. Важно стимулировать развитие отечественных ИИ-технологий и создавать благоприятную среду для их внедрения, одновременно регулируя этические аспекты и предотвращая монополизацию рынка. Поддержка исследований в области ИИ и подготовка кадров высшей квалификации – стратегическая задача.

Этические вызовы и российский контекст

Внедрение ИИ сопряжено не только с экономическими, но и с этическими проблемами. Возникают вопросы о предвзятости алгоритмов (algorithmic bias), которые могут дискриминировать определенные группы людей при найме на работу или оценке кредитоспособности. Конфиденциальность данных и их защита при использовании ИИ-систем требуют особого внимания, особенно в контексте российского законодательства о персональных данных. Существует риск углубления цифрового неравенства, когда доступ к преимуществам ИИ и новым рабочим местам получат лишь те, кто обладает необходимыми навыками и ресурсами. Ответственная разработка и применение ИИ, прозрачность алгоритмов и механизмы контроля становятся критически важными.




В России процессы внедрения ИИ идут, возможно, с некоторым отставанием от мировых лидеров в отдельных секторах, но набирают обороты. Крупные технологические компании активно развивают собственные ИИ-решения. Государство декларирует поддержку цифровизации и развития ИИ как приоритетных направлений. Однако для широкого распространения технологий и адаптации рынка труда необходимо преодолеть ряд барьеров.

Источник

Давайте поговорим об этом. На прошлой неделе OpenAI объявила о новой модели O3, и техно-твиттер буквально с ума сошел. Обсуждений предостаточно, и если вы не умеете ориентироваться в этом потоке информации, будущее может показаться неопределённым.

Что особенного в модели O3?

Во-первых, она достигла точности 87,5% по бенчмарку Arc AGI, что существенно превосходит показатели предыдущих моделей. Как видно из графика, её возможности растут экспоненциально.

Будем ли мы восприниматься как насекомые нашими владыками АГИ?




Если АГИ сможет делать всё, что может человек и даже больше, что нам делать?

Если рабочих мест не будет, на чем нам сосредоточиться для процветания?

Я изучаю этот вопрос уже несколько лет, пытаясь разобраться в нём самостоятельно. Естественно, встречаются разные точки зрения. Я собрал те, которые кажутся мне наиболее оптимистичными и логичными, чтобы помочь принимать обоснованные решения. Ваши действия сейчас имеют решающее значение – бездействие приведёт туда, куда оно всегда приводило, поэтому, если вы пока ничего не делаете, пора что-то предпринять. Важно различать понятия искусственного интеллекта (ИИ) и искусственного общего интеллекта (АГИ). Под ИИ понимают технологии, доступные сегодня – зачастую речь идёт об узком интеллекте (ANI). АГИ – это система, способная выполнять всё, что может человек. Чтобы понять ИИ, надо обратиться к его истокам.

До появления термина «искусственный интеллект» существовала кибернетика, понятие которой ввёл Норберт Винер в 1948 году в одноимённой книге. Слово «кибернетика» происходит от древнегреческого и означает «штурман» или «управляющий», подчёркивая идею автоматического саморегулирования системы, где цикл действий, восприятия и сравнения с целью является основой интеллектуального процесса. Винер пришёл к выводу, что мир следует понимать с точки зрения информации. Сложные системы – организмы, мозг, общество – постоянно корректируют свои ошибки для достижения цели. Если эти обратные связи нарушаются, система рушится, то есть происходит рост энтропии.

Проще всего представить себе капитана корабля, направляющегося к маяку. Если ветер смещает курс влево, он корректирует его вправо, а потом снова возвращается к нужному направлению. Если же система или человек не способны к подобной корректировке, то они просто увлекаются ветром и так и не достигнут цели. Мы обсуждали, что настоящий тест интеллекта – это способность добиваться желаемого. Корректировка ошибок на пути к цели и есть способ получить то, чего хочется в жизни.

Проблема различия между ИИ и АГИ в том, что ИИ не управляет своей системой самостоятельно. Ему всегда задают контекст и цели. Главный признак АГИ, по моему мнению, – способность самостоятельно обнаруживать новые цели и корректировать действия для их достижения, то есть быть управляющим собственной системой. Два года спустя после введения кибернетики Винер выпустил книгу «Человек как инструмент человека». Центральная идея, актуальная и сегодня, заключается в том, что нам следует перестать поклоняться кнуту, который нас истязает. Винер предупреждал: опасность не в том, что машины станут похожи на людей, а в том, что с людьми будут обращаться как с механизмами.

Звучит знакомо?

Ответ кроется в том, что система, требующая постоянного задания цели, лишена самостоятельности. Современный ИИ представлен в первую очередь чат-приложениями вроде ChatGPT, отдельными агентами и даже группами систем, хотя они пока не в центре внимания большинства. Для большинства пользователей они напоминают обычный поиск в Google – найти нужную информацию можно за несколько секунд, если уметь правильно искать. Если вы не владеете этим навыком, то ИИ не сможет выдать нужный результат. Таким образом, повседневное применение ИИ сегодня почти не отличается от прошлого.

Однако современные системы лишены агентности. Если вы не знакомы с понятием агентности, стоит изучить эту тему подробнее, поскольку она имеет огромное значение. ИИ – это специализированный инструмент, которому для работы задают цель, как шахматному роботу, играющему по заданным правилам. Пока его интеллект определяется внешними заданиями, он не может сравниться с человеческим. Сейчас начинает возникать паника из-за того, что ИИ учится корректировать ошибки для достижения различных целей. Но если программа всё еще настроена на поиск заранее определённых задач, она остаётся зависимой – её собственные действия не инициируются самостоятельно. Система остаётся неполной и не универсальной. Я считаю ИИ мощным инструментом, который полезен в работе, если знать, как им пользоваться. Проблема в том, что людям прививается узкоспециализированное мышление, а не стремление стать инновационными личностями, способными самостоятельно прокладывать путь в неизведанное. С рождения нам навязывают шаблон «идти в школу, затем работать, выходить на пенсию в 65 лет». Идея предпринимательства кажется недостижимой: копить деньги, получать хорошие оценки, слушаться авторитетов, идти безопасным путём и подчиняться системе.

В итоге ум привыкает к комфортной, навязанной жизни, даже если где-то глубоко внутри звучит зов перемен. Эти программные установки настолько сильны, что подавляют желание вырваться из шаблона, воспринимая его как сбой. Вот почему я поднимаю эту тему почти в каждом своём выступлении – будь то об ИИ или о человеческой свободе воли и отказе от общепринятых путей. Привитая узкая специализация разрушает креативность, а без креативности нет жизни, смысла и счастья – а счастье рождается в процессе решения проблем. В 1960‑х годах начала формироваться новая концепция технологий. С изобретением универсального компьютера мы, по мнению некоторых, вынесли нашу центральную нервную систему наружу – создали коллективный разум, где вся потенциальная информация находится под рукой. Если углубляться в духовные и философские рассуждения об идеализме или сознании, это может стать интересным умственным упражнением, но сегодня мы не будем вдаваться в эти детали. К сожалению, сегодня кибернетикой мало интересуются.

Новое представление о технологиях породило жадность: люди стремились получить прибыль. Джон Маккарти, не одобряя идеи Винера, ввёл термин «искусственный интеллект» и стал одним из его основателей. Лично мне больше нравится термин «кибернетика». Появление разговоров об интеллектуальных машинах вызывает вопрос: есть ли что-то уникальное в том, чтобы быть человеком? Ведь мы – единственный вид, сумевший полететь на Луну, создать ракеты и добиться прочего. Недавно я изучал идеи Дэвида Дойча, философия которого актуальна сегодня.

Под влиянием Карла Поппера он считал, что наша значимость заключается в способности создавать знания, быть универсальными объяснителями и строителями. Всё начинается с креативности: знания рождаются через гипотезы и критику, методом проб и ошибок, вариацией и отбором, по дарвиновской схеме. Иными словами, предполагая и корректируя свои предположения, мы учимся, внедряем инновации и постигали законы Вселенной. Главное отличие человека в том, что он может поставить перед собой любую цель, а не только заданную извне, и таким образом открывать новые возможности, направляя корректировку ошибок на достижение этих целей. Мы способны понимать всё, что подпадает под законы природы, создавая теории, объясняющие глубокую структуру реальности, что позволяет делать более точные прогнозы и двигаться вперед. Дойч в своей книге «Начало бесконечности» предлагает альтернативу редукционизму – представлению, что следует рассматривать только части, – и холизму, когда важнее целое.

Вместо этого он, как и Кен Уилбер, считает, что важны и целое, и его составляющие. Так появилось понятие «холонов», введённое Артуром Косслером: каждый элемент реальности является одновременно целым и частью чего-то большего – от атомов до молекул, клеток, организмов, от нас до помещений, городов, стран, мира, космоса. Понимая как целое, так и его части, мы в состоянии воссоздавать сложные системы. Главная проблема АГИ в том, что мы до сих пор не понимаем, что такое креативность и сознание, не знаем, как устроены все его составляющие. Поэтому создать полноценную систему, сравнимую с нашим умом, пока невозможно. Невозможно просто объединить элементы, не учитывая их принципы работы, и ожидать, что получится нечто, подобное нашему сознанию. Знания позволяют нам понимать то, что мы никогда не испытывали на собственном опыте – звёзды, галактики, даже принципы работы ракеты, которую можно потом создать, имея необходимые знания. Каждое достижение требует определённых знаний, ведь в жизни невозможно добиться успеха, если вы либо не понимаете суть, либо не владеете нужными навыками. Для человека, способного к активным действиям, это освобождает.

Для машин без собственной инициативы это кажется чем-то недопустимым. Многие неправильно понимают АГИ: ИИ сегодня – это неполная система, которой задают цели, подобно животным или сотрудникам с низкой инициативой. АГИ – полноценная система, подобная человеку, не ограниченному узким набором возможностей. Даже если у АГИ больше вычислительной мощности или памяти, он не сможет понять концепций, доступных только нам. И это не исключает возможности увеличения нашей вычислительной мощности посредством усовершенствования. Суть в том, что можно достичь всего, что реально возможно, если только у вас есть нужные знания. Вы не обречены следовать навязанному обществом пути или правилам АГИ – ведь, если АГИ это АГИ, то по сути вы схожи, лишь один обладает большей вычислительной мощностью. Однако вычислительная мощность – не единственное различие.

Нам необходимо понять пять основных способностей человека и выяснить, сможет ли АГИ достичь их уровня или превзойти его, чтобы понять наше место в мире. Пока что однозначного определения для АГИ или ещё более продвинутого АСИ, искусственного суперинтеллекта, нет. Никто не знает, станет ли АСИ реальностью, когда и как это произойдёт. АГИ — достижимая и реальная цель. Возникают вопросы: действительно ли возможности человека ограничены? Смогут ли мы научиться и делать всё, что способен делать АГИ? Есть ли пределы нашим мыслительным способностям? В первую очередь, важно обратить внимание на такие аспекты, как вычисление, преобразование, вариация, отбор и внимание – идеи, развитые, в том числе, исследователем Карлосом де ла Гуардиа совместно с Дойчем, Поппером, Дарвином и другими.




Существует ли предел вычислительным возможностям?

Нет, ограничений нет – как только у вас появляется универсальный компьютер, всё зависит лишь от времени и объёма памяти. Если АГИ обладает такой же вычислительной мощностью, то у него нет преимущества. Кроме того, если нам удастся усовершенствовать наши мозговые возможности, мы будем наравне с АГИ даже по мере его ускоренного развития. Как только АГИ станет реальностью, может показаться, что его эффекты не столь впечатляющи, как ожидалось. Подобно тому, как первое яркое событие постепенно становится обыденностью, наш ум адаптируется к изменениям. Дэвид Дойч утверждает, что проблем бесконечно много и они всегда решаемы.

Если счастье рождается в процессе решения правильных проблем, то наш источник радости – в творчестве. Проблемы бесконечны, и процесс создания знаний тоже безграничен. Даже если с появлением АГИ темп решения задач ускорится, при взгляде на картину за 50 лет экспоненциальный рост может обернуться плавной линией. Всё зависит от масштаба зрения: хотя текущая экспоненциальная динамика выглядит пугающе, с появлением новых решаемых проблем мы сможем определять, какую роль играть в будущем. Следующий аспект – преобразование, то, что я называю творчеством. Преобразование означает способность превращать сырьё в нечто уникальное, например, создавать ракету, если обладаешь нужными знаниями. Человеческие руки и тело отлично справляются с выполнением длинных последовательностей операций. Даже если мы не можем выполнить задачу напрямую, мы можем создать инструмент, который её выполнит.

Люди – универсальные изобретатели, способные создавать инструменты для выживания в любых условиях. Природа сурова: без одежды или жилища в холодной среде мы бы не выжили. Хотя природу часто воспринимают как гостеприимное и священное явление, её основа – биосфера. Если биосфера исчезнет или мы не создадим новую, вся жизнь прекратится. Мы уже создали ракетные корабли и телескопы, то есть умеем строить инструменты, которые создают другие инструменты. Вопрос в том, существует ли предел для базовых операций, выполненных в правильной последовательности? Ответ – нет. Представьте, что человек может дистанционно управлять животным, даже если само оно не способно на сложные действия. При наличии правильных знаний можно организовать команду, обеспечить материалы и ресурсы, чтобы, со временем, добиться желаемого результата. Многие люди останавливаются на полпути, не сумев преодолеть препятствия, хотя при наличии правильной последовательности шагов можно достичь практически любой цели.

Однако преобразование требует времени. Независимо от того, насколько быстро может вычислять АГИ, сингулярность не изменит этого факта – так же, как Большой взрыв или эпоха Просвещения не привели к мгновенному созданию ракет, а лишь породили новый набор задач и идей. До сих пор страх перед АГИ часто обусловлен фундаментальным непониманием природы реальности.

Последние три аспекта – вариация, отбор и внимание – показывают, как создаются знания, то есть как мы ориентируемся в пространстве идей, в неизведанном. Мы умеем вычислять и преобразовывать, но обладаем ли мы знаниями для этого? Знания служат двум целям: во-первых, они помогают осуществлять конкретные, желательно положительные, дела, а во-вторых, фиксируют закономерности реальности. Это позволяет сохранить информацию и не начинать каждый раз с нуля. Мы знаем, что солнце всходит и заходит, времена года сменяются, и без этих базовых знаний наша жизнь развалилась бы. Таким образом, в будущем, я полагаю, наш язык мышления тоже изменится.

Мы перейдём на более абстрактный, высокий уровень, который позволит эффективней ориентироваться в пространстве идей. По мере того как многие сегодняшние проблемы будут решены и откроются новые возможности, язык станет инструментом для восприятия тех идей, которые были нам ранее недоступны. Пространство идей – это неизведанная территория, которую можно сравнить с картой. Освещённые области – это те, которые мы уже изучили, а тёмные зоны таят нераскрытый потенциал. Если ограничиваться зоной комфорта и известным, ничего нового не откроется, не возникнет смысла, и проблем для решения не будет. Исследование неизвестного – это поиск новых идей, их проверка на соответствие реальности, корректировка пути к цели.

Существует ли предел количеству новых идей, которые мы можем придумать для выживания и достижения поставленных целей?

Благодаря вычислительным возможностям можно исследовать всё пространство идей, а наличие собственной инициативы позволяет пробовать разные пути, пока не найдётся удачная идея после множества неудачных. Творчество даёт возможность действовать нестандартно, словно перелетать через лес, а не идти по его тропинкам. Создавая новое и генерируя знания, мы открываем неизведанное и находим свежие решения.

После вариации наступает отбор – способны ли мы выбрать хорошие идеи из множества возможных?




Мы можем генерировать идеи, но для накопительного прогресса необходимо учиться на ошибках. Начинать всё с нуля, например, при переходе от бензинового автомобиля к электромобилю, было бы крайне неэффективно. Постепенно оттачивая навыки навигации в пространстве идей и корректируя ошибки, мы становимся универсальной системой. Здесь принципиальной разницы между АГИ и человеком нет.

Куда направляется ваше внимание, когда возникает проблема? Если хочется построить ракету, поможет ли полагаться на старые догмы или лучше сменить точку зрения, чтобы увидеть новые возможности?

Часто, сталкиваясь с проблемой, люди привязаны к устоявшимся мировоззрениям, вложенным им с детства. При финансовых трудностях многие обращаются к молитвам или привычным убеждениям, что может морально поддержать, но редко приводит к практическому решению. Для решения конкретной задачи, например, создания ракеты, необходима корректировка взглядов, позволяющая увидеть и использовать новые возможности. Я не утверждаю, что какой-то один подход – духовный или научный – неверен. Духовность помогает обрести покой и ясность, найти своё место в мире, но для решения практических проблем, таких как финансовые вопросы, требуется иной набор навыков и убеждений. Привязанность к узкой идеологии ограничивает способность исследовать пространство идей. Человек умеет использовать как духовный, так и научный подход, но чрезмерное отождествление с одной философией делает нас неполной системой, неспособной решать все возникающие задачи. Односторонний подход только усугубляет страдания, поскольку он не является полноценным решением.

Итак, что нам делать?

С учётом того, что жизнь изменится, рабочие места исчезнут, а неизвестное всё ближе, единственный выход – активно действовать. Нужно стать творцом, человеком, который не ждёт указаний извне, а берёт на себя инициативу. Но творцом быть – это не просто вести блог или снимать видео. Это глубокое стремление проникнуть в суть своего бытия, понять истинную мотивацию, создать нечто ценное, почувствовать свою значимость и связь с чем-то большим, вне себя. Творчество – это способность генерировать знания, которые пока мы до конца не понимаем.

Слово «предприниматель» происходит от французского глагола, означающего «предпринимать» или «делать что-то». В XVI веке оно стало обозначать человека, реализующего проект. Предприниматель – это не звание, а действие, приверженность активности, умение самостоятельно ставить цели и преодолевать неизведанное. Проблема в том, что люди привыкли ждать, когда им скажут, что делать, а это делает их уязвимыми для замены. Это не означает, что нужно перестать учиться у других, а значит – не связываться с одной конкретной профессией или карьерой, рассматривая её как конечную цель.

В будущем всё будет меняться стремительно, появятся новые проблемы и знания, а вы должны уметь быстро адаптироваться. Неопределённость будущего – это возможность, а не угроза. Таким образом, творец – это не просто новая должность, за которой можно без усилий сидеть перед камерой. Это способ бытия, позволяющий действовать без разрешения извне. Сейчас одним из самых эффективных мест для творчества является интернет, где доступ к знаниям и новым идеям открыт каждому. Неважно, будет ли это интернет или межзвёздное пространство – ответ всегда один: нужно становиться творцом. Разумеется, этот путь нелёгок. Никакой быстрый рецепт не заменит процесс проб и ошибок.

Не получится за месяц достичь огромного успеха. Нужно учиться, совершенствоваться, корректировать свои действия и двигаться к цели. Творцы решают бесконечное множество задач, которые жизнь им предлагает. Без проблем не бывает креативности, а без креативности – нет смысла жизни. Боль и страдания возникают, когда мы не можем понять проблему и теряем способность её решать. Мир без творчества и цели – мир без жизни. Признак суверенного человека в том, что он умеет учиться учиться, имеет развивающееся видение будущего и строит значимые проекты, которые служат ступеньками для дальнейшего роста.

Такой человек видит препятствия на пути к прогрессу, генерирует идеи, тестирует решения, со временем становится эффективнее и щедро делится своими знаниями. Он никогда не сдаётся, самостоятельно берёт на себя все функции – от разработки до реализации. ИИ является всего лишь инструментом для обучения и действий, а не хозяином, которому следует подчиняться. В конечном итоге, принципы остаются неизменными – быстрых путей не существует, и только постоянное движение вперёд открывает новые горизонты.

Младшие разработчики больше не умеют думать...

Источник

Со временем вы обнаружите, что читать статьи и книги больше не приносит удовольствия, а сосредоточиться вникнуть в их суть стало невозможно. Аргументы теряют ясность, и вы привыкаете к тому, чтобы кто-то сводил всё к кратким выводам под видом продуктивности и эффективности. На деле это означает, что у вас пропадает способность к глубокому мышлению. В моей компании, если бы младший разработчик справлялся с поставленными задачами, я был бы рад. Но большинство новичков не умеют решать даже простые задачи, и обучение каждого из них отнимает много времени. Такая ситуация стала обычной, что вызывает разочарование у специалистов среднего и старшего звена, поскольку новички не умеют мыслить самостоятельно и не могут решать проблемы без посторонней помощи. Проблема не в незнании инструментов, таких как GitLab CICD или Swagger API, а в неспособности самостоятельно изучать документацию и добиваться результата без поддержки. Это вопрос умения мыслить, а не владения инструментами.

Зачем вообще нужны младшие разработчики, если ИИ способен мыслить лучше?

То, что начинающие специалисты часто не умеют самостоятельно анализировать и решать задачи, параллельно с резким ростом возможностей ИИ приводит к тому, что оба фактора усугубляют общую проблему утраты критического мышления. Период с 2007 по 2010 год стал поворотным в развитии мобильных телефонов – появление iPhone и Android дало нам мощные компьютеры, способные уместиться в кармане и быть под рукой в любой момент. Хотя мобильные устройства и социальные сети стали великим достижением XXI века, их влияние оказалось двояким. Люди перестали общаться лично. Недавно в кафе я заметил, как несколько студентов сидели за круглым столом, уткнувшись в свои телефоны, не смотрели друг на друга, обмениваясь короткими фразами, и тут же снова погружались в экран. Даже если вы не общаетесь с человеком годами, достаточно следить за его обновлениями в сети, чтобы знать все детали его жизни. Короткие видео разрушили способность концентрироваться и воспринимать информацию длительное время. Разговор с другом подтвердил: читать книгу в шумной обстановке стало практически невозможно. Постоянные уведомления и переходы между задачами привели к тому, что наш мозг привык к постоянным кратковременным импульсам и утратил способность к глубокому анализу. Мы все признаны в зависимости от технологий, а многочисленные приложения, обещающие помочь побороть эту зависимость, оказываются малоэффективными. Великие инновации, хоть и изменили общество, принесли с собой негативные последствия, и ИИ может стать не исключением. Возможно, изучив опыт мобильных технологий и социальных сетей, мы сможем избежать подобных ошибок в использовании искусственного интеллекта. Сейчас наблюдается поспешная гонка за созданием всё более совершенных ИИ-моделей. Сначала анонсировали одну модель, через несколько минут – другую, а затем стали называть их «искусственным общим интеллектом», хотя они лишь достигают недостижимых ранее показателей.

Но для чего это всё?

Часто пользу ИИ сводят к выполнению простейших задач – от центрирования элементов на странице до решения математических примеров или составления чертежей. Но такие решения не требуют глубокого понимания, а их слепое использование не приносит реальной пользы. Недавно я встретил 22-летнего выпускника Стэнфорда с безупречным резюме, но он внушал ощущение неполноценного мышления. Он делал частые паузы в середине предложений, подыскивая обычные слова, как будто его мозг «зависал». Когда я спросил, всё ли с ним в порядке, он признался, что стал забывать даже простые слова. Он использовал ИИ для написания текстов, поиска идей и общения, настолько полагаясь на внешнее «расширение мозга», что его собственные мыслительные процессы ослабли. Это напоминает ситуацию с калькуляторами, когда преподаватели утверждали, что арифметика должна изучаться вручную, а затем оказывается, что основное умение – мыслить самостоятельно – страдает, если полагаться на машину.

Что происходит, когда целое поколение передаёт своё мышление на аутсорсинг?




При таком подходе у людей утрачивается способность к самостоятельному анализу и творческому решению глобальных проблем. Эта тенденция касается не только молодых специалистов, но и других профессионалов. Именно поэтому ИИ все чаще становится привлекательным заменителем младших разработчиков. Рассмотрим следующий пример. Представьте ситуацию: «Эй, ИИ, отсортируй этот список и создай отображение, где ключами являются индексы». Ответ: «Готово». А теперь обращение к младшему разработчику: «Эй, отсортируй этот список и создай отображение с индексами в качестве ключей».

Что ты подразумеваешь под «отображением»?

Он может спросить: «Как, то есть, пары ключ-значение?».

Начинать с нуля или с единицы?

Такой набор вопросов лишь подчеркивает, что выполнение рутинных задач отнимает у новичков время, тогда как ИИ справляется с этим моментально.

Кому вообще нужны младшие разработчики?




Если рутинные задачи выполняет ИИ быстрее, мотивация для развития базовых навыков у новичков существенно снижается. Если мы позволим ИИ решать всё за нас, мы рискуем вновь оказаться жертвами технологической зависимости. Однако, если сумеем сопротивляться навязанному автоматизированному подходу, в будущем нас смогут оценить как мыслителей с глубоким пониманием процесса.

Как сохранить способность к самостоятельному мышлению, извлекая пользу из ИИ?

Необходимо ежедневно читать и писать, заполнять мозг качественной информацией и затем осмыслять её через анализ и письменно фиксировать свои мысли. Чтение классических произведений, глубоких статей и прохождение обучающих курсов позволяет развивать критическое мышление, в то время как запись собственных мыслей помогает лучше усваивать и запоминать информацию.

Что делать с полезными фактами и идеями, если они не обрабатываются?

Если не задействовать активное осмысление, даже самые важные знания быстро забываются. Письмо помогает структурировать информацию, формировать обоснованные выводы и сохранять навыки глубокого анализа. ИИ может значительно ускорять выполнение рутинных задач – упрощать код, находить ошибки, генерировать шаблоны. Но истинная ценность разработчика заключается в умении решать масштабные проблемы, где технические детали служат лишь инструментом для достижения больших целей. Если начинающие специалисты осознают, что мелочи – лишь средство для реализации общей идеи, их ценность как профессионалов возрастёт. Если вы только начинаете карьеру, старайтесь каждый день изучать, как устроена ваша компания или проект в целом. Поймите, какую проблему решает ваш проект, и найдите, как вы можете привнести значимый вклад, выходящий за рамки простой реализации технических деталей. ИИ уже здесь, и от вас зависит, окажетесь ли вы очередной жертвой зависимости или сумеете сохранить свое мышление. Разграничивая задачи, где ИИ может помочь, и области, требующие вашего творческого участия, вы сохраните уникальные навыки и мышление. Читайте качественную литературу, записывайте свои мысли и развивайте умение решать глобальные проблемы, тогда ваша ценность как специалиста будет только расти.

Что вы об этом думаете?

Хелен Тонер | Кто определяет будущее ИИ?

Источник

Кто устанавливает правила для ИИ? Сегодня несколько компаний и правительств определяют его развитие, однако многое решается за закрытыми дверями. Хелен Тонер, директор по стратегии в Центре безопасности и перспективных технологий при Джорджтаунском университете и бывший член совета директоров OpenAI, принимала участие в крупнейших обсуждениях управления ИИ.
В этой гостевой лекции она ведёт беседу с Беатрис Эркерс, делясь взглядом изнутри на политику в сфере ИИ, отношения между США и Китаем и будущие направления регулирования.

Не могли бы вы коротко представиться и рассказать о своей работе?

Меня зовут Хелен Тонер. Я работаю в Центре безопасности и перспективных технологий (CSET) Джорджтаунского университета – исследовательском центре, посвящённом вопросам национальной безопасности и новых технологий. Уже шесть лет мы изучаем пересечение национальной безопасности и инновационных технологий, особенно в области ИИ.

Большая часть моей работы связана с обеспечением безопасности ИИ, анализом конкурентной борьбы между США и Китаем и изучением китайской технологической экосистемы, в то время как мои коллеги занимаются смежными вопросами.

Что, по вашему мнению, отсутствует в текущем ландшафте управления ИИ? Какие меры существуют, и чего нам ещё не хватает?

В течение многих лет техническое развитие ИИ проходило практически без внимания к вопросам политики. Затем в конце 2022 года появление ChatGPT резко привлёкло внимание законодателей к данной сфере. В начале 2023 года складывалось впечатление, что в США могут последовать серьёзные законодательные инициативы, хотя в Европе уже реализуют AI Act.

В Вашингтоне этот момент, видимо, упущен. Сейчас не требуется масштабное прохождение законопроекта, а необходимы новые подходы для управления неопределённостью и разногласиями в области ИИ. Основная проблема политики в сфере ИИ заключается в отсутствии единого понимания будущего развития: одни считают, что технологии будут стремительно развиваться и скоро станут опасными, другие уверены, что быстрый прогресс не принесёт угроз, а третьи ожидают медленных изменений. Для эффективного регулирования важно выработать общее представление о реальном положении дел, создать методы измерения способностей ИИ, отслеживания их развития и оценки возникающих рисков.

Также требуются меры прозрачности, позволяющие получить объективную картину: от крупных компаний можно потребовать публикации данных о проводимых тестах, полученных результатах и мерах безопасности. Уже существуют так называемые условные схемы регулирования, когда при появлении определённых характеристик системы принимаются конкретные меры. Компании вроде Anthropic, OpenAI и Google DeepMind определяют ситуации, в которых их разработки должны быть приостановлены или ограничены. Вопросы определения опасных возможностей и разработки защитных мер требуют дальнейшей проработки, особенно когда речь идёт о том, когда следует прекратить развитие, даже если конкуренты продолжают активную работу.

При этом в США интерес к обязательному регулированию остаётся крайне низким.




Как вы оцениваете ситуацию на глобальном уровне, учитывая конкуренцию между США и Китаем? Возможно ли полноценное международное сотрудничество в области ИИ?

Вопрос о полноценном международном сотрудничестве зависит от того, что именно понимается под «полноценным». Многие дискуссии по управлению ИИ зациклены на создании обязательных международных договоров, особенно между США и Китаем, но сейчас к таким мерам явно мало стремления. Эпоха многосторонних обязательных соглашений, популярная во второй половине XX века, постепенно уходит на второй план.

На мировой арене наблюдается недостаток взаимного доверия между странами, что осложняет традиционное сотрудничество. Тем не менее, существуют альтернативные формы международного взаимодействия. Можно, например, создать общее понимание происходящего за счёт обмена информацией, разработки лучших тестов возможностей ИИ и выработки общих протоколов. В качестве примера можно привести политическую декларацию США по ответственному использованию ИИ в военной сфере, к которой присоединились более 40 стран. Хотя документ не имеет обязательной силы и механизмов принуждения, он достаточно детализирован и продуктивен.

Поэтому, несмотря на сложную геополитическую обстановку, потенциал для международной координации остаётся, если подойти к этому творчески.

Может ли государственное регулирование способствовать такому сотрудничеству, или это дело компаний, и что можно предпринять?

Существует несколько направлений для развития сотрудничества. Один из важных вопросов – будущее международных саммитов по ИИ. Так, уже проведены три мероприятия: первый – саммит по безопасности ИИ в Великобритании, второй – общий саммит в Сеуле без акцента на безопасность, и третий – саммит в Париже, последний, по мнению многих экспертов, утратил фокус на вопросах рисков в пользу ускорения развития технологий.

Будущее этих встреч остаётся открытым, и любое участвующее государство может внести свои предложения. Кроме того, в ряде стран созданы институты безопасности ИИ. Великобритания, например, обладает одним из крупнейших и наиболее компетентных таких институтов, недавно переименованных в Институт безопасности ИИ, при сохранении прежней аббревиатуры. Аналогичные центры действуют и в других странах, выступая не как регулирующие органы, а как точки экспертизы, проводящие тестирование моделей, анализ рисков и координацию между промышленностью и государственными структурами.

Возможны различные подходы в зависимости от позиции и сферы деятельности.

Что вы думаете об разделении на инструментальный ИИ и искусственный общий интеллект (AGI)? Не стоит ли смешивать их при обсуждении политики?

Смешивать понятия инструментального ИИ и AGI нецелесообразно. ИИ включает множество различных систем, и регулировать его в целом практически невозможно, поэтому необходимо выбирать конкретные аспекты для фокусирования. Проблемы, возникающие при использовании автономных транспортных средств, сильно отличаются от вопросов, связанных с ИИ в здравоохранении, образовании или финансах.




Лично я не склоняюсь к жесткому делению на инструментальный ИИ и AGI, так как понятия автономности и инструментальности часто пересекаются. Например, автономные автомобили действительно работают самостоятельно, но их функционал ограничен. Современные языковые модели, хоть и весьма продвинуты, выступают в виде инструментов, поскольку функционируют в рамках чата. В военной сфере чрезмерно акцентируют внимание на автономном оружии, хотя даже системы поддержки принятия решений, предоставляющие лишь советы, могут оказаться опасными при сбоях.

Если бы пришлось выбирать бинарное разделение, я предложила бы делить проблемы на те, которые можно решать реактивно, и те, для которых требуются проактивные меры – создание защитных барьеров и предотвращающих систем мер. Большинство проблем лучше решать после их возникновения, так как вмешательство на ранней стадии может лишить систему значительных возможностей. Однако для крайне опасных ситуаций, связанных с передовыми системами (которые могут способствовать разработке нового оружия или полностью уйти из-под контроля), проактивный подход необходим. При этом попытки заблаговременного вмешательства зачастую оказываются неэффективными, поэтому такие меры следует применять лишь в исключительных случаях.

Можно ли использовать концепцию «экзистенциальной надежды», предполагающую возможность радикально лучшего будущего, при одновременном снижении рисков ИИ и использовании его как силы во благо?

Безусловно, такой подход важен по нескольким причинам. Если бы ИИ представлял собой лишь угрозу, регулирование было бы простым – можно было бы просто не развивать его. Однако ИИ способен решать глобальные проблемы: заболевания, голод, изменение климата и энергетические вопросы. Например, автономные автомобили могли бы снизить число смертей на дорогах – в США это десятки тысяч, а по всему миру – сотни тысяч людей.

Формирование позитивных сценариев будущего помогает направлять развитие технологий в нужное русло. Хотя обеспечить безопасность систем – первоочередная задача, необходимо задумываться о том, как изменится жизнь общества с появлением автоматизированного интеллектуального труда, откуда будут поступать ресурсы и каким станет повседневный уклад. Необходимо рассматривать широкий спектр возможностей, чтобы определить, к какому будущему мы стремимся, что позволит принимать более взвешенные решения уже сегодня. Если представить лучший сценарий к 2035 году, мне кажется, что наиболее благоприятными будут те варианты, когда технологическое развитие происходит достаточно постепенно, позволяя обществу адаптироваться.

А если прогресс будет стремительным, успех может быть достигнут благодаря своевременным мерам или же просто удаче.

Есть ли что-то, что мы упустили в нашем разговоре?

Беседа получилась насыщенной, хотя всегда можно обсудить дополнительные вопросы. Новичкам в этой области не стоит полагать, что готовых ответов уже существует. Важно смело вносить свои идеи и свежий взгляд, даже если встречаются уже разработанные схемы и классификации проблем. Никто не обладает исчерпывающими решениями, поэтому каждый вклад ценен.

Нужно ли обладать глубокими техническими знаниями, чтобы участвовать в развитии ИИ, и как начать, если их нет?

При знакомстве с ИИ полезно разобраться в базовых принципах технологии. Немного математики и программирования помогут пройти онлайн-курсы, объясняющие, как работают нейронные сети. Несмотря на внушительный масштаб современных систем, их математическая база достаточно проста. Если вам по плечу освоить основы, это открывает большие возможности для понимания процессов в ИИ. Если же технические детали кажутся сложными, не стоит расстраиваться – эта область охватывает множество направлений, и востребованы специалисты с разными знаниями и опытом. Спасибо, Хелен.

Андерс Сандберг | Как нейротехнологии могут изменить нашу жизнь

Источник

Насколько можно расширить границы человеческого познания? Андерс Сандберг, ведущий исследователь будущего, изучает возможности полного моделирования мозга и передовой нейронауки. В этой лекции он ведёт беседу с Беатрис Экерс, обсуждая интеграцию разума и машины, цифровизацию сознания и то, как эти технологии могут переосмыслить понятия интеллекта, идентичности и будущее нашего мышления.
Не могли бы вы представиться и рассказать, чем вы занимаетесь?

Мой путь был весьма разнообразным.

Я начал с информатики, затем прошёл курс по нейронным сетям и влюбился в идею создания компьютеров, которые думают по принципам мозга. Изучив нейронауку, психологию и медицинскую инженерию, я хотел разрабатывать нейроинтерфейсы, но понял, что их создание невероятно сложно, и переключился на программное обеспечение. Позже я оказался в Институте будущего человечества в Оксфорде, где занимались философскими вопросами. Обычно я называю себя футуристом и философом с солидной научной базой. Меня чрезвычайно интересует долгосрочное будущее человечества и возможность сделать его лучше — как через предотвращение глобальных рисков, так и через использование технологий, которые уже на горизонте.

Как вы пришли к изучению экзистенциальных рисков и почему сделали это направлением своей деятельности?

Детство в скучной Швеции 70‑х годов заставило меня жадно вбирать всю научную фантастику из местной библиотеки. Желая воплотить фантазии в реальность, я начал читать научные книги и не остановился на достигнутом. Вскоре мой интерес к науке и стремление сделать мир ярче привели меня к трансгуманистскому движению 90‑х. Я создавал сайты, участвовал в дебатах и пропагандировал идею умного использования технологий для повышения нашего интеллекта, продления жизни и улучшения всех аспектов бытия. В начале 2000‑х я столкнулся со статьёй Ника Бострома, посвящённой экзистенциальному риску.




Мне не понравилось, что autor указывал на потенциальные опасности технологий, которые я считал перспективными, опасаясь, что эти аргументы будут использованы против научного прогресса. Однако, общаясь с Ником, я пришёл к выводу: мы стремимся к будущему, и оно должно быть хорошим. Если наше будущее может быть кардинально лучше, оно может оказаться и значительно хуже. Считать, что всё может только улучшаться, странно. Осознавая, что мы можем влиять на его ход, мы должны работать над его улучшением. Именно поэтому я спокойно засыпаю, думая, что, избегая ужасных сценариев, мы способствуем созданию лучшего будущего, даже если ошибки случаются — жизнь всё равно остаётся захватывающей.

Что вас вдохновляет в нейротехнологиях и какие перспективы вы видите в этой области?

Наш мозг и сознание лежат в основе всего, что мы делаем. Любая ценная цель — будь то счастье, спокойствие или достижение чего-то значимого — невозможна без работы мозга, хорошей памяти, способности обдумывать поступки и контролировать себя. Если мы сможем воздействовать на мозг, это позволит изменить практически всё, что имеет значение. Первоначальный вопрос, который я изучал в Оксфорде, заключался в том, можно ли улучшить мозг с помощью лекарств или электромагнитного воздействия, а также каковы этические и социальные последствия таких мер. Но мы можем пойти дальше, добавив в мозг новые возможности, которых в нём ещё нет.

Возможно, появятся иные способы мышления, расширенная память или новые формы взаимодействия с окружающим миром, например, добавление дополнительных органов чувств. Известны случаи, когда люди имплантировали магниты на кончики пальцев, чтобы ощущать магнитное поле; первоначальные тактильные сигналы затем перерабатываются мозгом, создавая новые ощущения. Мозг способен адаптироваться к новым сенсорным данным и даже к новому телу. Помимо этого, возникает вопрос: можно ли связать наш мозг с компьютером для управления устройствами, улучшения мыслительных процессов или погружения в виртуальную реальность? Самая амбициозная идея, которой я, вероятно, посвящу большую часть времени, — это моделирование мозга.

Что, если можно будет отсканировать мозг и создать его копию в компьютере, которая будет обладать тем же опытом, что и оригинал? Конечно, это порождает целую лавину философских вопросов: что такое личностная идентичность, может ли программа обладать сознанием, и насколько просто сканировать мозг для его репликации? Это сложная задача, но она открывает интересный долгосрочный потенциал.

Что вас больше всего вдохновляет в моделировании мозга? Какие положительные перспективы вы видите и каковы основные выгоды?




Наиболее очевидное преимущество — создание резервной копии сознания.

Даже при успешном продлении жизни или сохранении тела случаются аварии, несчастные случаи или природные катастрофы. Резервная копия, которую можно перенести в виртуальное или роботизированное тело, даёт гораздо больше шансов на выживание. Кроме того, существование в компьютере потенциально позволяет мыслить с невероятной скоростью, поскольку современные симуляции, хоть и медленнее биологических процессов, могут быть ускорены: в то время как нервные импульсы передаются со скоростью звука, компьютерные процессы происходят почти со скоростью света. Представьте, что вместо долгого перелёта можно просто загрузить себя в другое «тело» в нужном месте.

Или, если в мозге возникнут ошибки, его можно будет отладить, устранив когнитивные дефекты, сменив или улучшив отдельные компоненты, а не фиксировать неудачные изменения — достаточно просто нажать «отмена». Такой подход даже позволяет одновременно запустить несколько копий одного сознания. Многие могут возразить, что существует только одна подлинная личность, но я считаю, что идентичность может реализовываться множественно. Конечно, могут возникнуть философские споры, особенно если для других личность определяется через физическое тело или уникальность существа. Практическая польза моделирования огромна, хотя путь к ней будет непрост: нас ждут сложные этапы, требующие проведения множества экспериментов на животных, что поднимает массу этических вопросов.

Например, если отсканировать мозг мыши и воссоздать её в компьютере, должно ли действие, аналогичное щипанию хвоста, восприниматься как жест, причиняющий боль? Если симуляция моего мозга обладает сознанием, то и виртуальная мышь заслуживает должного отношения. Это означает, что виртуальным экспериментальным животным необходимо создавать комфортную, адекватно стимулирующую среду, учитывая их обонятельные и тактильные особенности, отличные от наших визуальных критериев. Такие вопросы становятся особенно сложными, когда речь заходит о человеческом мозге, ведь могут получаться повреждённые сканы, требующие последующего восстановления, а также вопросы безопасности и контроля: находясь в цифровом виде, я буду зависеть от тех, кто управляет оборудованием.

Каков научный консенсус и когда, по вашему мнению, эти технологии могут реализоваться?

Реализация этих идей, скорее всего, отдалённая перспектива. Хотя сроки сдвигаются вперёд и каждый день появляются удивительные результаты, задача остаётся чрезвычайно сложной. История моделирования мозга началась в 1940‑х годах, когда мы даже не понимали механизм передачи сигналов по нервным волокнам. Ходжкин и Хаксли, используя нервы гигантских кальмаров, выяснили, что процесс зависит от ионов натрия и калия, перетекающих через мембрану, создавая электрический импульс, который распространяется по волокну подобно цепной реакции.




При этом они не только провели эксперимент, но и создали математическую модель, потратив недели на ручной расчёт уравнений, что позволило им воспроизвести форму электрического импульса с поразительным соответствием экспериментальным данным. С тех пор стало возможным строить всё более сложные модели, используя сведения о настоящих нейронах для лучшего понимания биологии и разработки искусственного интеллекта. Современные нейронные сети, хоть и существенно отличаются от биологических систем, в своей основе всё же вдохновлены принципом работы распределённой сети нервных клеток. Благодаря достижениям вычислительной нейронауки сегодня можно симулировать модели, содержащие миллионы, а то и миллиарды нейронов с высокой детализацией, хотя зачастую они упрощаются для ускорения расчётов.

Параллельно развивается системная биология, которая моделирует не только нейроны, но и окружающие их ткани, кровоток и химические процессы в организме. Такая интеграция позволяет разрабатывать новые лекарства, например, для коррекции работы депрессивных нейронных сетей, хотя всегда остаётся вопрос: насколько модель соответствует реальности? Идеальной проверкой было бы сравнить её с данными реального мозга. На сегодняшний день активно ведутся работы по созданию коннектомов — карт связей между нейронами в организме. Первый полный коннектом был построен для нематоды C. elegans, где вручную восстановили связи между 303 нервными клетками, что уже само по себе оказалось сложной задачей.

Недавно исследователи создали коннектом мозга плодовой мушки, что, несмотря на ограниченность информации о электрических свойствах нейронов, стало важным шагом вперёд. Такие проекты позволяют предсказывать связи по изображениями нейронов с точностью до 90 % и даже строить простые модели электрической активности, воспроизводящие поведение настоящей мушки. Сейчас многие команды работают над моделью мозга мыши, и для её реализации требуются новые микроскопы, робототехника, химическая маркировка и методы искусственного интеллекта для обработки огромных объёмов данных. Аргументировать возникновение проблем в цифровом формате непросто, ведь вопросы собственности, идентичности и юридической ответственности при создании цифровых копий уже активно обсуждаются юристами, за ставками которых стоят миллиарды.

История показывает, что общества способны адаптироваться и находить креативные решения даже для самых запутанных вопросов.

Хотите ли вы что-либо добавить, подвести итог обсуждения потенциала нейротехнологий и этих направлений?

Артур Кларк в своих эссе отмечал, что долгие годы эксперты утверждали, что определённые технологии невозможны, приводя примеры с космическими полётами, тяжелыми самолётами и компьютерами. Он подчёркивал, что когда известный профессор говорит о возможности, он, как правило, оказывается прав, а если заявляет об обратном — часто ошибается.

Важнее то, что аргументы против основываются на ограниченном воображении: не всегда удаётся представить, как кажущиеся непреодолимыми проблемы можно решить. В мире существует множество умов, способных найти решения, недоступные одному человеку. Именно поэтому так важно объединяться и проявлять смелость. Вместо того чтобы отвергать идеи как безумные, лучше задаться вопросом: что произойдёт, если рискнуть? Возможно, получится не пустое безумие, а позитивное, способное изменить наш мир. Нам нужно сочетание воображения и смелости для реализации таких перемен. Отличная мысль, полная экзистенциального оптимизма. Давайте совершать добро, даже если это кажется безумным.

Anthony Aguirre | Заменит ли нас ИИ — или поможет нам процветать?

Источник

То, как мы разрабатываем искусственный интеллект, определит будущее общества. В этой гостевой лекции Энтони Агирре вместе с Беатрис Эркерс анализирует различия между ИИ как инструментом и заменяющим ИИ, а также рассматривает, как этот подход может повлиять на политику, управление и стратегию разработки ИИ. Он делится взглядами на риски и пороговые значения общего ИИ, рассматривает роль способностей, агентности и автономии в его развитии и поясняет, что означает сохранить контроль за будущим человека по мере совершенствования и интеграции ИИ в общество.
Расскажите о себе и о своей деятельности за годы вашей карьеры.

Изначально я занимался теоретической физикой, однако за последние десять лет меня всё больше увлекает искусственный интеллект и его глобальные последствия. В 2014 году я совместно с коллегами основал Институт Будущего Жизни, которым сейчас руковожу. Также мною запущена платформа М⃰culous для прогнозирования, позволяющая не только исследовать вопросы ИИ и общего интеллекта, но и изучать другие технологические направления. Я начал глубже осмысливать природу интеллекта, его возможности и необходимые меры политики, хотя ранее не занимался политикой. Меня вдохновляет перспектива формировать будущее, и я рад участвовать в этом курсе. Благодарю за вашу работу и поддержку курса.

Почему вы решили написать эссе «Оставим будущее за человеком» именно сейчас и что послужило его вдохновением?

Я написал эссе, потому что развитие ИИ происходит с поразительной скоростью, и вместо простого увеличения его мощности важно задуматься о том, каким ИИ мы действительно хотим создавать. Главная идея заключается в том, чтобы сохранить будущее в руках человека, а не передавать его всё более могущественным машинам. Если машины смогут выполнять все функции человека ещё лучше, встает вопрос: какую роль останется у людей? Эссе анализирует этот вопрос и предлагает альтернативу пути создания общего интеллекта и суперинтеллекта – проектировать ИИ как инструмент, расширяющий человеческие возможности, а не заменяющий человека.

Что вы можете сказать тем, кто утверждает, что инструментальный ИИ не является альтернативой, поскольку мы уже движемся по неизбежной траектории к созданию общего ИИ?




Проблема в том, что мы рассматриваем ИИ в одномерном плане: чем больше мощности, тем универсальнее система, что в итоге ведет к созданию общего интеллекта, способного повторить всё, что умеет человек, и превзойти его. Однако интеллект имеет множество аспектов.

Уже сегодня существуют узкоспециализированные системы, которые превосходят человека в одних задачах (например, сворачивание белков, как в AlphaFold), но уступают в других. Я предлагаю воспринимать общий ИИ как совокупность трёх свойств – эффективности в выполнении задач, универсальности и автономии. Мощные специализированные системы могут превосходить человека в конкретной области, но им недостает автономии или способности к обучению в других сферах. Только когда система обладает одновременно всеми этими качествами на экспертном уровне, она способна полностью заменить человека.

При отсутствии хотя бы одного свойства человек остаётся ключевым звеном.

Какие позитивные приложения ИИ, находящиеся вне опасной зоны AGI, вы считаете наиболее перспективными?

Большинство научных задач не требует общего ИИ – необходимы конкретные инструменты. К примеру, при поиске лечения от рака важно создать такие инструменты, которые позволят исследователям мгновенно анализировать данные, глубже понимать молекулярную биологию и значительно ускорять научный прогресс. Инструментальный ИИ может повысить эффективность исследований в десятки раз, даже если на практике есть ограничения экспериментальных возможностей. Кроме того, меня вдохновляют идеи создания нейтрального посредника для разрешения споров, способного одновременно вести переговоры с тысячами людей и предлагать компромиссные решения.

Аналогично, с помощью ИИ можно расширить возможности демократического участия, повысив информационное взаимодействие между гражданами и государством, что позволит выйти за рамки устаревшей системы редкого голосования.




Почему не следует создавать универсальные решения, решающие все проблемы, вместо разработки конкретных инструментов?

Идея создания универсального «волшебного решения» может показаться привлекательной, однако в других областях мы всегда используем специализированные инструменты для решения конкретных задач. Универсальные системы, способные решать всё сразу, оказываются менее управляемыми и безопасными. Оптимальнее разрабатывать ИИ с узконаправленной функциональностью, который выполняет определенную задачу и остаётся под контролем, чем пытаться заменить человека машиной, обладающей всеми качествами одновременно.

Насколько важно привлекать широкие слои общества к обсуждению будущего ИИ, и каким образом люди могут влиять на траекторию его развития?

Принимать судьбоносные решения без участия тех, кого они затрагивают, неправильно. Хотя технические вопросы иногда требуют специализированных знаний, вопрос о том, следует ли создавать машины, способные полностью заменить человека, понятен каждому. Решения, определяющие свойства ИИ-компаньонов, не должны приниматься узким кругом специалистов. Важно, чтобы в обсуждение вовлекались представители различных сообществ – от религиозных групп до трудовых союзов. Такое широкое участие позволит создать системы, разработанные и используемые на благо большинства, а не узкого круга интересов.

Как сохранить реалистичный, но оптимистичный настрой в отношении технологий и ИИ, признавая их риски?

Ключевой фактор – активное участие людей в процессе принятия решений и управлении технологиями. Если развитие направлено исключительно на выгоду ограниченного круга лиц, то технологический прогресс может оказаться благоприятным только для них. Только когда технологии создаются людьми для людей, они способны действительно улучшать жизнь общества. Я верю, что если мы обеспечим широкое участие в определении направлений развития, то сможем избежать опасностей и добиться того, чтобы достижения в области ИИ приносили пользу большинству. Современные технологии дают нам возможность лучше координироваться и находить новые пути решения сложных задач. Спасибо за уделённое время – было приятно пообщаться.

Роберт Лемперт | Как мы можем наилучшим образом подготовиться к неизвестному будущему?

Источник

Если никто не может предсказать будущее ИИ, как к нему готовиться?

Роберт Лемперт – ведущий эксперт по построению миров, сценариальному планированию и принятию решений в условиях неопределенности.
 
Десятилетиями он помогает политикам ориентироваться в непредсказуемых рисках. В этой лекции он беседует с Беатрис Экерс о том, как создание образов будущего может стать стратегическим инструментом для принятия долгосрочных решений, несмотря на неизвестность завтрашнего дня. Роберт, начнем. Расскажите, пожалуйста, о себе и о работе в RAND.

Меня зовут Роб Лемперт. Я являюсь ведущим исследователем RAND и директором Центра Фредрика С. Партия по вопросам глобальной политики на длительную перспективу и будущего человеческого бытия – по сути, центра перспектив RAND.

Моя работа сосредоточена на анализе политики как для официальных лиц, так и для представителей общественных групп и других участников, принимающих решения в условиях постоянных изменений и неопределенности. Мы стремимся привносить научные данные и доказательства в процесс принятия решений, несмотря на стремительно меняющийся мир. Расскажите подробнее о построении миров и о том, как этот метод помогает принимать качественные решения.

Один из ключевых аспектов нынешнего времени – это понимание направления движения и формулирование целей в процессе формирования политики. Хотя мы не всегда сможем достичь намеченных идеалов до конца, отсутствие ясного курса может привести к неблагоприятным результатам. Метод построения миров помогает отойти от суеты повседневности и систематически представить, каким может стать будущее. Такой подход позволяет людям выйти за рамки ежедневных забот и вдумчиво определить, в каком направлении следует двигаться.

Каким образом метод построения миров помогает подготовиться к неопределенным будущим?

Что делает сценарий построения миров полезным, и как его правильно создавать?

Он демонстрирует возможность перемен, показывая, что мир может значительно отличаться от нынешнего состояния. Создание детализированного будущего образа помогает соотнести желаемое состояние с конкретными действиями, которые можно предпринять уже сегодня для продвижения в этом направлении. Полезный сценарий должен вызывать энтузиазм, отражать общие стремления и содержать достаточное количество деталей, чтобы, рассматривая его «от цели к настоящему», определить шаги, необходимые для реализации задуманного будущего.




Насколько детализированным должен быть сценарий, чтобы оставаться полезным?

Подход, заимствованный из киноиндустрии, подразумевает, что начинается всё с вопроса типа: «Какой мир мог бы быть, если искусственный интеллект сделает демократию максимально эффективной?» или «Как может выглядеть мир, где проблема изменения климата решена, а климат стабилизирован при сохранении процветающей экономики?» Затем мир разбивается на различные сферы жизни – повседневность, работа, личные отношения, государственное управление, технологии и т.

д. Каждую из них описывают в достаточной степени, чтобы представить, каково было бы жить в подобном мире. Такой уровень детализации позволяет перейти от идеи к конкретным действиям.

Какие ошибки чаще всего совершают при построении миров?

Основная сложность заключается в том, чтобы оторваться от текущего положения вещей, что оказывается крайне непросто из-за притягательности настоящего. Мы экспериментировали с совмещением методов прогнозирования посредством построения миров и анализа истории. Исторические примеры показывают, как будущее, каким оно казалось в свое время, часто оказывалось совершенно иным спустя 20–30 лет. Например, в одном из упражнений по управлению ИИ участники изучали исторические преобразования промышленной революции, что помогло расширить их представление о возможных изменениях в будущем.

Работали ли вы с построением миров для ИИ, и что вы можете посоветовать, исходя из этого опыта?

Мы проводили несколько подобных упражнений с участием специалистов по ИИ. Один из важных моментов – обеспечить участие представителей с разными точками зрения. Организация работы в стиле дизайн-студии, когда несколько групп получают один и тот же запрос, позволяет каждой группе развивать свою интерпретацию, а последующий обмен идеями помогает обсудить и уточнить возможные направления.

Если сценарии впоследствии использованы для разработки политики, важно, чтобы все участники были активно вовлечены в процесс создания общего будущего, что повышает их заинтересованность в дальнейшем применении выработанных идей.

Насколько важно привлекать разнообразные точки зрения? Чем шире спектр участников, тем лучше или слишком сильное различие мнений может быть контрпродуктивным?

Разнообразие взглядов играет существенную роль. Иногда полезно разделить участников на группы, каждая из которых получает различные запросы или направления для работы.




Например, мы проводили упражнение с двумя сценариями: один предполагал децентрализованное управление, другой – централизованное. Группы формировались таким образом, чтобы участники, склонные отвергать один из вариантов, работали над противоположным сценариям, а затем обменивались мнениями. Такой перекрестный обмен идеями позволяет учитывать разногласия и обнаруживать общие пути достижения цели, хотя окончательный баланс зависит от задачи и отведенного времени.

Какую роль должны играть количественные модели при построении миров? Насколько важно использовать количественные данные по сравнению с повествовательным описанием? Как они соотносятся с прогнозированием?

Количественные данные придают сценарию реалистичность и направляют творческий процесс, показывая, где возможны изменения без нарушения физических и экономических законов. Модели отражают лишь часть реальности, концентрируясь на измеримых параметрах, в то время как прогнозы зачастую основываются на предсказуемых аспектах.

Поэтому важно использовать числовые данные как инструмент для обогащения дискуссии, не ограничивая при этом воображение участников. В одном из проектов по декарбонизации электроэнергетики США мы предоставили группам четыре разных модельных сценария, после чего участники описывали изменения в управлении, экономике и повседневной жизни, что позволило объединить строгие модели с качественным видением будущего.

Чем отличается построение миров от сценарного планирования, и как они дополняют друг друга?

Хотя многие различают эти подходы, я склонен объединять их в рамках одного процесса.

Сценарное планирование обычно начинается с постановки вопроса, например, «Как обеспечить процветающее и экологически устойчивое будущее для нашего региона?», после чего выявляются ключевые факторы. В результате выбор сужается до нескольких вариантов, сопровождающихся короткими историями. Построение миров, напротив, сосредотачивается на детальном описании «каким бы мог быть мир», охватывая множество сфер жизни.

Таким образом, сценарное планирование помогает структурировать проблему, а построение миров – создать богатый и вдохновляющий образ будущего. Расскажите подробнее о методе обратного планирования, который часто используется вместе с построением миров.

Метод обратного планирования предполагает, что после создания образа желаемого будущего участники описывают путь от настоящего к этому будущему. При этом учитываются изменения в различных сферах: в повседневной жизни, управлении, бизнесе и культуре.

Мы часто используем концепцию трех горизонтов, где в краткосрочной перспективе доминируют современные тенденции, в долгосрочной – зарождается новый порядок, а в промежуточном периоде наблюдается постепенный переход. Такой подход помогает определить конкретные действия на ближайшую перспективу, позволяющие сдвинуть общество в направлении желаемых перемен. Сравнивая полученные сценарии, можно выделить общие шаги, понятные для реализации в разных условиях. На сегодня всё, благодарю за уделенное время и обмен идеями.

Кристин Петерсон | Как биотехнологии и нанотехнологии могут сформировать будущее

Источник

Кристин Петерсон – соучредительница Института Прозорливости, созданного в 1980-х, задолго до того, как искусственный интеллект стал массовым. Она десятилетиями исследует, как трансформирующие технологии могут изменить долгосрочное будущее. В этой гостевой лекции она беседует с Беатрис Эркерс о том, как достижения в биотехнологиях и нанотехнологиях могут революционизировать медицину, продление жизни и материаловедение, а также о том, как ИИ способен ускорить эти прорывы.
Кристин, расскажите о себе и о том, чем вы занимаетесь?

Очень приятно быть здесь, Беатрис.

Я – Кристин Петерсон, соучредительница Института Прозорливости, который с 1986 года направляет развитие технологий в позитивное русло. Мы уже давно работаем в этой сфере и занимаемся широким спектром направлений: от нанотехнологий и программного обеспечения, включая искусственный интеллект, до космических технологий, биотехнологий и исследований в области продления жизни.

Что вдохновило вас сосредоточиться на новых технологиях, особенно на нанотехнологиях и биотехнологиях, и почему вы посвятили свою карьеру их развитию?

Когда я и мой соучредитель Эрик Дрэкслер были студентами в MIT, Эрик стал пионером в области молекулярных нанотехнологий – разработки и изучения молекулярных машин с атомной точностью. Эти системы по своей сути схожи с теми, что присутствуют в наших организмах. Все биологические системы основаны на молекулярных машинах, которые используют их для создания структур и работы организма.

Тогда Эрик задался вопросом: почему бы не создать искусственные, управляемые человеком «машины», аналогичные молекулярным системам природы? Эта идея была революционной для того времени, а сегодня её развитие уже становится очевидным. Важно понимать, что большинство благ цивилизации происходит благодаря технологиям, основанным на прикладной науке. Чтобы сохранить наш высокий уровень жизни и восстановить окружающую среду, нам необходимо научиться разумно управлять этими молекулярными системами.

Как на протяжении вашей карьеры можно сбалансировать огромные возможности с вызовами и рисками технологий?




Важно признавать, что у технологий есть свои риски, и хотя легко выделить их явные преимущества, нельзя закрывать глаза на недостатки. Остановка развития невозможна, поэтому нам остаётся лишь стараться направлять эволюцию науки в позитивное русло.

Мы объединяем самых передовых ученых и специалистов, ставим перед ними амбициозные позитивные цели, поскольку лучшие умы любят вызовы и коллективную работу. Таким образом, мы стремимся вдохновить их на достижение оптимальных результатов, одновременно отслеживая возможные негативные тенденции.

Какова ваша самая амбициозная позитивная концепция развития нанотехнологий за ближайшие 10 лет?

Нанотехнологии могут сыграть решающую роль в медицине, например, посредством создания микроскопически малых устройств для проведения точечных ремонтов внутри организма, где молекулярные наномашины будут ключевыми. Также они могут оказать существенную помощь в решении экологических проблем, таких как устранение химического загрязнения и нормализация атмосферы. Хотя срок в 10 лет выглядит амбициозно, при условии упорной работы и удачи эти достижения вполне возможны.

Как вы смотрите на использование искусственного интеллекта в научных исследованиях и разработках, и какие перспективы в этой области наиболее значимы?

Человеческое тело – одно из самых сложных образований во Вселенной, требующее чрезвычайно продвинутого программного обеспечения для глубокого понимания биологических процессов. Искусственный интеллект станет мощным инструментом, способным не только лечить организм, но и помогать сохранять экосистему планеты. Наши ограниченные возможности сохранять и анализировать такую сложность очевидно требуют внедрения ИИ, который сможет справиться с этой задачей эффективнее.

Какой опыт дискуссий вокруг нанотехнологий, включавших утопические и дистопические сценарии, может помочь в современном обсуждении ИИ?

На ранних этапах дебатов о нанотехнологиях наблюдались крайние колебания от чрезмерного оптимизма до пессимизма. Люди склонны выбирать одну из крайностей, что не приводит к конструктивному анализу.




Сегодня разумнее изучать несколько сценариев одновременно, не предполагая, что развитие пойдёт исключительно в одну или другую сторону. Нужно активно исследовать альтернативы, стремиться к позитивным вариантам и одновременно быть готовыми к возможным негативным последствиям, имея заранее продуманные планы действий.

Каким образом можно лучше взращивать экзистенциальную надежду и использовать эту концепцию?

Особое внимание следует уделять молодежи, которой постоянно транслируются негативные и апокалиптические сценарии. Конечно, угрозы существуют, и с ними нужно быть знакомыми, но если молодые люди слышат только пессимистичные прогнозы, они не знают, к каким целям стремиться и чему посвятить свою жизнь. Необходимо давать им позитивные перспективы, внедрять амбициозные и вдохновляющие цели в учебные программы, а также вовлекать в проекты, позволяющие направить их энергию на создание лучшего будущего.

Как вы относитесь к концепциям «инструментального ИИ» и «общего ИИ» (AGI), и насколько очевидно, что нужно развивать ИИ в том или ином направлении?

Эта дихотомия полезна, хотя и не является единственной точкой зрения. Инструментальный ИИ уже доказал свою эффективность и продолжит развитие, но я не вижу способа ограничить ИИ рамками узконаправленных задач – природа такова, что развитие общего искусственного интеллекта неизбежно. Вопрос не в том, сможет ли ИИ достичь уровня гибкости и универсальности человеческого интеллекта, а лишь во времени его появления, поскольку нет физических законов, запрещающих реализовать общую форму интеллекта на кремнии. Поэтому разумнее рассматривать различные сценарии развития, стремясь к позитивным направлениям, одновременно контролируя и своевременно реагируя на негативные сигналы.

Есть ли что-то, о чем мы не поговорили, но что стоило бы упомянуть в этом контексте?

Если рассматривать крайне амбициозные и оптимистичные сценарии, то сочетание передовых биотехнологий, медицины и молекулярных нанотехнологий способно кардинально преобразить будущее. Можно представить мир, где уровень благосостояния значительно превосходит наши сегодняшние стандарты, а люди обладают исключительным здоровьем и длительной жизнью.

Некоторые из вас, возможно, слышали о крионике – технологии, при которой человека, исчерпавшего возможности современной медицины, замораживают в надежде, что в будущем технологии смогут восстановить его здоровье. Нет законов физики, препятствующих такому процессу, поэтому, несмотря на высокий уровень неопределенности, такие эксперименты стоят того, чтобы им дать шанс. Тим Урбан подробно описал, почему крионика имеет смысл, если кому-то интересно углубиться в эту тему. И на этой ноте стоит завершить обсуждение, которое показывает, как важно мыслить радикально и далеко за рамки ближайших 10 лет.

Гэри Аккерман | Ред-тиминг нашего будущего с ИИ

Источник

Может ли искусственный интеллект стать совершенным инструментом для злоумышленников?
Гэри Аккерман, эксперт по безопасности и оценке угроз из Центра передового красного командования Университета Олбани, изучает, как новые технологии могут быть использованы во вред.

В этой лекции он вместе с Биатрисой Эркерс обсуждает основные угрозы, связанные с ИИ, и способы их предвидения и нейтрализации посредством red teaming. Они подробно рассматривают, что делает этот подход эффективным, почему он необходим и как помогает опережать потенциальные риски использования ИИ. Расскажите о себе и своей работе.

Чем вы занимаетесь?

Я благодарю за возможность. В академической сфере я являюсь профессором по вопросам внутренней безопасности в Университете Олбани (штат Нью-Йорк).

Кроме того, я основал и веду исследования в Центре передового красного командования – первом академическом институте, посвящённом совершенствованию искусства и науки red teaming. Параллельно я возглавляю компанию Nemesis Insights, которая использует инструменты red teaming для решения стратегических задач. Множество моего времени уходит на разработку сценариев, работу в формате red teaming и размышления о будущем.

Могли бы вы дать краткое введение: что такое red teaming и зачем оно нужно?

Red teaming понимается как моделирование решений или поведения противника с последующим измерением результатов для улучшения защитных возможностей. Иными словами, мы принимаем на себя роль злоумышленников и с научной точностью анализируем результаты, чтобы лучше понять системы, усилить оборону и устранить уязвимости. Такой подход помогает извлечь положительные стороны и одновременно минимизировать негативные последствия.




Какие качества должны быть у эффективной команды red teaming?

Ключевым моментом является умение взглянуть на проблему с точки зрения противника – будь то не только террорист или иностранное государство, но и конкурент, оппонент в споре или судебном процессе. Наше восприятие часто страдает от когнитивных искажений, таких как предвзятость «зеркального отражения», когда мы предполагаем, что другие думают и действуют так же, как мы. Чтобы снизить влияние таких искажений, мы уделяем особое внимание полному погружению в роль, подобно тому как актеры готовятся к спектаклю. Это позволяет объективнее оценивать ситуацию. Не менее важна правильная структура red teaming, адаптированная к поставленным целям – будь то выявление неожиданных уязвимостей, повышение осведомлённости, обучение или исследование новых, ещё не изученных проблем. Основная идея заключается не только в инсценировке сценариев, но и в систематическом сборе данных для их научного анализа.

Полученные результаты превращаются в конкретные рекомендации, которые помогают улучшить защиту системы. Ключевые аспекты успешного red teaming включают способность сохранять альтернативный взгляд, минимизировать влияние предвзятости, использовать инструменты, соответствующие конкретным целям, а также фиксировать и анализировать результаты для дальнейших конструктивных изменений. Важно подходить к процессу без обвинений и указания на виновных – основная цель состоит в выявлении скрытых уязвимостей и их устранении до того, как они приведут к реальным проблемам.

Завершающим этапом является внедрение изменений, что требует грамотного управления индивидуальными и организационными процессами.

Как будет выглядеть будущее, в котором играет искусственный интеллект?

С чего начать, если говорить о red teaming будущего ИИ?

Занимались ли вы этим ранее?

Как вы рекомендуете подходить к этой задаче?

Моя компания занимается оценкой безопасности ИИ посредством red teaming уже почти два года.




Мы сотрудничаем с разработчиками технологий и государственными организациями, участвуем в крупных форумах, посвящённых ответственному использованию ИИ. Современные генеративные модели и большие языковые модели – новое явление, выходящее за рамки классических ИТ-систем, и их применение порождает новые риски. Хотя ИИ способен приносить огромную пользу, его могут использовать и во вред. Разработчики стремятся реализовать его положительный потенциал, одновременно снижая риски злоупотреблений, и red teaming зарекомендовал себя как один из лучших инструментов для оценки безопасности.

Существует два основных направления оценки. С одной стороны, обсуждаются гипотетические сценарии появления искусственного общего интеллекта с независимым мышлением – вопрос, требующий сложного моделирования. Однако основное внимание уделяется ИИ как инструменту, например, языковым моделям и дизайн-системам. Мы анализируем, как люди используют эти технологии и каким образом злоумышленники могут извлечь из них выгоду. Один из методов – измерение эффекта, или uplift.

Например, если ИИ выдаёт идеальный рецепт изготовления взрывчатки, но такую же информацию можно найти через поисковик за считанные секунды, риск не увеличивается. Однако если задание, которое ранее требовало месяцев исследований, выполняется ИИ за несколько минут, его возможности существенно повышаются. Мы организуем эксперименты: часть участников использует стандартные поисковые системы, а другая группа – ИИ, после чего сравниваем результаты по точности, детализации и времени выполнения.

Если модель значительно улучшает планирование или даёт возможность совершить то, что ранее было невозможно, это вызывает серьёзное беспокойство. После выявления возможностей и слабых мест проводятся мероприятия по снижению рисков. Например, если ИИ предоставляет инструкции по созданию опасного устройства, в систему вводятся ограничения на получение такой информации. Методы снижения риска могут включать отказ от ответа на опасные вопросы или корректировку параметров модели, чтобы снизить вероятность нежелательного результата.

Хотя каждый метод имеет свои ограничения, red teaming позволяет выявить проблемные зоны, оценить их последствия и оперативно скорректировать работу модели. Повторное проведение тестов помогает убедиться, что изменения действительно снизили риск. Большинство компаний сегодня серьезно относятся к безопасности своих моделей. Несмотря на перемены в политике, ответственные разработчики продолжают инвестировать значительные ресурсы в эту сферу, поскольку безопасность и имидж компании имеют решающее значение. К сожалению, существуют и те, кто пренебрегает безопасностью, а их небезопасные системы могут стать слабым звеном, которое злоумышленники быстро обнаружат и эксплуатируют. Особенно сложно контролировать модели, распространяющиеся в странах с недостаточным юридическим регулированием.

Каковы ваши окончательные размышления о будущем искусственного интеллекта?

Я настроен оптимистично.

Если все участники процесса будут стремиться повышать безопасность и разрабатывать ответственный ИИ, технологии смогут принести значительную пользу. Red teaming помогает не только выявлять уязвимости, но и анализировать возможные непредвиденные последствия даже самых перспективных сценариев. Благодаря всестороннему анализу можно заранее определить, как минимизировать негативные эффекты, усиливая положительные стороны технологии. ИИ является узлом в сложной системе, и его применение может привести к неожиданным результатам.

Именно поэтому важно обеспечить, чтобы положительный эффект преобладал, а потенциальные риски были сведены к минимуму. Подобно тому как автомобильная промышленность стремится избежать аварий, разработчики ИИ работают над тем, чтобы их технологии не приводили к негативным последствиям, способным затормозить прогресс. Мы все хотим, чтобы ИИ помогал в медицине, борьбе с изменением климата, решении продовольственных проблем и многих других сферах, поэтому снижение риска его злоупотребления имеет первостепенное значение.

Экономика создателей умирает благодаря ИИ

Источник

Согласно Википедии, теория мертвого интернета — это конспирологическая теория, предполагающая, что интернет умер где-то в 2016–2017 годах и теперь в значительной степени заполнен ботами и контентом, сгенерированным ИИ, а не людьми. Но в этой теории есть кое-что еще более удивительное, о чем никто не говорит. Я не уверен, почему мы до сих пор называем это конспирологической теорией, потому что большая часть интернета уже состоит из ботов и контента ИИ, и ситуация будет только ухудшаться. Но, честно говоря, я не вижу в этом проблемы. На самом деле, это может предоставить огромную возможность для творческих людей, предпринимателей, основателей и всех остальных выделиться.

С другой стороны, существует нескончаемый поток сверхзависимого, оглупляющего контента, который люди могут просматривать в любое время. Для меня это немного безумно, но среднее время, проводимое за экраном среднестатистическим американцем, составляет чуть более семи часов. Конечно, часть этого времени может быть связана с работой, но мы все знаем, что большая его часть, даже если ваша работа связана с социальными сетях, уходит на это. Сообщения о депрессии, неуверенности и стрессе резко возросли, особенно на фоне угрозы замены рабочих мест людей искусственным интеллектом, что заставляет нас цепляться за последние остатки цели в жизни, даже когда большинство людей говорят, что ненавидят свою работу. Дело в том, что люди не хотят меняться. Люди настолько привыкают к боли, что она кажется домом, и покинуть ее кажется настоящим страданием. А поскольку ИИ каждую неделю бьет новые рекорды, отдельные лица и компании могут создавать сотни и тысячи единиц контента каждый день.

И так как этот контент вызывает сильное привыкание, стресс, депрессия, неуверенность и тревога будут только усиливаться, если мы не научимся контролировать себя.

Действительно ли это проблема?

Ведь мы все об этом думали.

Неужели общество действительно превратится в сцену из фильма «ВАЛЛ-И», где все страдают ожирением, плавают в креслах и целый день питаются сладкими напитками и развлечениями?

Я не уверен. Обработанная еда вредна. Это очевидно, мы все это знаем. Но это не значит, что нельзя съесть одно или два печенья, а может, и целую сдобную запеканку в час ночи, смотря старые серии «Офиса» после нескольких именинных эспрессо-мартини, чтобы сбалансировать излишнюю оптимизацию нашей жизни. Проблемы начинают возникать, когда мы не можем контролировать себя в течение длительного времени. А это очень легко сделать.

Сети быстрого питания, стриминговые компании, игровые компании и компании социальных сетей вкладывают сотни миллиардов долларов в оптимизацию циклов обратной связи, основанных на дофамине, чтобы потребители оставались зависимыми. Только Ф⃰ ежегодно тратит более 20 миллиардов долларов на исследования и разработки. Что делает фастфуд особенно вызывающим привыкание, так это безжалостное сочетание жира, сахара и соли. Это были скудные ресурсы, к изобилию которых люди не приспособлены в современном мире; мы приспособлены для выживания.

Обнаружение этих ресурсов в прошлом стимулировало выброс дофамина в мозг, сигнализируя, что мы нашли что-то, что поможет выжить. И как только компании обнаружили этот механизм, они смогли тестировать и создавать комбинации этих ингредиентов, которые удерживали потребителей в зависимости и заставляли их возвращаться снова и снова. Интернет-компании сделали то же самое. Они приняли рекламную модель монетизации и вскоре обнаружили, что поляризующие и подстрекательские заголовки привлекают больше всего внимания.

Теперь им оставалось только показывать пользователям больше того, что им нравилось, на мгновенно доступном экране. Так родилась лента «Для вас». Итак, есть обработанная еда, а есть обработанный контент. Цифровой жир, сахар и соль – дешевый дофамин, мгновенное удовлетворение, энтропия. Быстрый и поверхностный контент — это именно это. Чем больше вы потребляете, тем хаотичнее становится ваш разум. Нет никакого долгосрочного осмысления, просто куча бесполезных идей, заполняющих ваш мозг без цели или видения, к которому их можно применить. Цифровая еда не дает вам энергии и не наращивает мышцы. Она делает вас настолько вялыми, что вы хотите лежать весь день и набирать вес. Быть «гражданином ВАЛЛ-И», пускающим слюни на отфильтрованный алгоритмом контент, который кормит вас краткосрочно приятным содержимым, удерживая вас в состоянии стресса и выживания.

Сочетание страха и желания уводит вас от настоящего момента, и психическая энтропия, или беспорядок в уме, возрастает. То, что вы считали одним безобидным постом, на самом деле было комбинацией из 50 постов, которые вы прочитали одновременно, что незаметно вызвало этот хаос. Вы сожалеете. Вы говорите, что то же самое. Вы загоняете себя в парадигму политических идеологий и статичных мнений, которые не способствуют достижению чего-либо стоящего в вашей жизни. Печально то, что вам все равно, и вы, вероятно, даже не осознали, как попали в эту ситуацию, или осознали, но вскоре забыли об этом и вернулись к ней. Я такой же. Это происходит со всеми нами. Вот почему я записываю это видео. Но есть и светлая сторона. Вы уже знаете, что нельзя доверять компаниям социальных сетей в изменении их стимулов, но вы можете и должны взять дело в свои руки. Недавно я видел твит Кевина на Twitter под названием «Мысли о создании личного бренда».




И, основываясь на моих других видео, таких как «Смерть личного бренда» и многих видео о бизнесе одного человека, я согласен со многими его пунктами. Сверхоптимизированные профили равны задротам, что равно низкому статусу. Погоня за вовлеченностью ведет к потере аутентичности. Писать о других — отстой и не имеет веса. Я постоянно это вижу: люди просто пишут о других людях вместо того, чтобы создавать авторитет и говорить об идеях, которые им нравятся, или делиться своими интересами и навыками. Быть экспертом переоценено, просто будь собой на публике. Быть лицемером за свою «команду» равносильно тому, что ты неудачник. Другими словами, если кто-то, кто вам нравится, говорит что-то, с чем вы не согласны, но вы все равно соглашаетесь с ним — вы неудачник. Репутация всегда побеждает охват. И посты должны быть следствием действий. И самое главное: если вы даже пытаетесь построить личный бренд, вы по определению менее аутентичны, чем тот, кто не пытается его строить.

Вот так. Скоро мы рассмотрим несколько примеров этого, но это отличный способ осмыслить то, о чем мы будем говорить, с точки зрения разницы между создателями и контентом, сгенерированным ИИ. И моя мысль в том, что именно такие личные бренды, люди, формируют то, что публикуется в интернете, потому что контент ИИ следует трендам, создаваемым личными брендами и инфлюенсерами, но он не может повторить эту прекрасную аутентичность. Итак, делайте покупки на цифровых фермерских рынках. Потому что на обратной стороне обработанной еды и контента есть органическая еда и контент. А органический контент центропийный. В отличие от энтропии, которая ведет к беспорядку и хаосу, центропия ведет к порядку и ясности. Но вы не можете ожидать, что лента «Для вас» будет кормить вас этим контентом. Вы должны активно искать, курировать и формировать свою цифровую ленту, особенно по мере роста контента ИИ.

Как распознать органический контент?

Во-первых, он полезен. Он помогает в достижении ваших целей. Оговорка здесь в том, что у вас должны быть свои собственные цели. Если у вас нет видения, большая часть контента, кроме того, что помогает его сформировать, бесполезна. Почитайте философскую книгу. Во-вторых, он часто длинный. Книги, статьи, рассылки, подкасты и видео на YouTube — в нем достаточно места, чтобы донести что-то осмысленное и ценное. Однако дело в том, что многие создатели коротких форматов могут публиковать идеи и обучающий материал, который служит маленьким кусочком пазла для вашего разума. Так что существует и центропийный контент коротких форматов, но если он не служит кусочком пазла, если это просто идея, висящая в воздухе и ни с чем не связанная, что вы хотите сделать в своей жизни, тогда она вам не приносит пользы. Третье: он аутентичен. Он не создан потому, что так надо.

Он создан потому, что автор считает его достаточно ценным, чтобы поделиться с аудиторией, которая может извлечь из него пользу. И последнее: органический контент, или контент отложенного удовольствия, все равно может использовать приемы привлечения внимания и маркетинга, чтобы вас зацепить. Это игра, в которую приходится играть. Технически, любая книга, которая привлекает ваше внимание, использует эти приемы, пытаются они или нет. Именно так создается интересная история. Так что броские заголовки и прочее — это не проблема. Проблема в содержании. В том, действительно ли этот контент подходит вам и тому, что вы хотите делать в своей жизни. Чтобы вас не таскали туда-сюда и не программировали вашей цифровой лентой на то, чего вы на самом деле не хотите. Именно это заставляет вас чувствовать себя потерянным. И я должен сказать это здесь: если вы хотите научиться писать такие статьи, рассылки, посты, которые являются центропийными, которые действительно помогают людям.

.. Суть всего этого в том, что социальные сети ни в коем случае не плохи. На самом деле, это невероятный способ получить доступ к бесконечному источнику знаний, ведь где еще можно найти информацию от людей, которые сделали то, что вы хотите сделать в своей жизни? Большинство успешных людей — самоучки, и большая часть самообразования сегодня происходит через экран. Роялти и правители Римской империи, такие как Марк Аврелий, имели доступ к лучшим учителям, чтобы подготовить их к трону. А теперь, когда у вас есть доступ к лучшим учителям онлайн, вы решаете пролистывать видео с красивыми и глупыми танцующими людьми. Пусть это имеет смысл. Никто не говорит о том, что контент, сгенерированный ИИ, на самом деле может быть хорошим. Потому что вот в чем дело. Неважно, затоплен ли интернет тоннами мусорного контента. Он уже был таким в течение многих лет.

Более того, если бы это действительно представляло проблему для компаний социальных сетей (то есть людям это не нравилось, и компании начали терять доход), они смогли бы ее решить. Они могли бы использовать криптографию или биометрические данные, чтобы доказать, что человек вышел в сеть. Но это явно не стало для них достаточно большой проблемой, чтобы они это сделали, потому что это не проблема. Весело ныть и жаловаться на эту реальность мертвого интернета, чтобы отвлечься от того, что вы можете с этим сделать.

Вы беспокоитесь, что эти боты и контент, сгенерированный ИИ, лишили вас возможности найти нужную информацию в интернете, тогда как это совсем не так, это далеко от истины. Большинству людей просто нужно, чтобы большинство вещей им подавали на блюдечке. И компании социальных сетей дают им именно это. Как я упоминал в начале, мы настолько привыкаем к боли, что она начинает казаться домом, и уход от этой боли кажется настоящим страданием. Кроме того, подумайте, как люди на самом деле смотрят контент.

Контента очень много, никто с этим не спорит, но вы можете просмотреть лишь ограниченное его количество в любой момент времени и подписаться лишь на ограниченное количество людей. Реальность такова, что ИИ не генерирует хороший контент с точки зрения тона. Я пытался заставить его имитировать мое письмо, создавал простые запросы и запросы размером с мини-курс по социальным сетям, и из 100 постов, которые мне выдавал ИИ, возможно, один можно было опубликовать. Остальное — полезные идеи, которые я полностью переписывал. Некоторым требовались незначительные правки, но здесь есть важный момент. Контент ИИ хорош только в том случае, если вы сами хороши в создании контента. Большая часть его отправляется прямо на дно и не видна человеческим глазам. Мертвый интернет похож на айсберг, и большая часть мертвого контента находится так глубоко, что никто его никогда не увидит.

А если бы контент ИИ действительно был хорошим, имело бы это значение? Если бы я создал это видео в точности, слово в слово, сцену за сценой, с помощью ИИ, имело бы это значение? Если бы оно дало вам ценность, которую вы искали, я думаю, что нет. Вам было бы все равно. Но на это вы можете сказать: «О, ну, если бы я знал, что это ИИ, что-то чувствовалось бы неправильно». И это беспокойство проистекает из фундаментального непонимания того, что такое ИИ, потому что хайп, хайп вокруг ИИ — «О, эти новые модели достигают новых показателей, поэтому все рабочие места будут заменены» — очень хорошо затуманивает восприятие. Ведь интеллект — это лишь один ресурс, и он оказывается довольно слабым в изоляции. Он теряет свою ценность, если нет видения, вкуса или способности к действию. Если вы уже не умеете хорошо делать что-то, ИИ не сделает это хорошо. Если бы я создал это видео с помощью ИИ против кого-то другого, ИИ не смог бы просто сделать это сам по себе.

Мне пришлось бы организовывать все: изображения, сцены, все остальное. Это все равно технически я создаю видео. Просто я больше не перед камерой, и я могу создавать их быстрее и быстрее распространять имеющиеся у меня знания. И это именно так: ИИ не заменил контент. Он просто облегчил создание плохого контента, а людям на это наплевать. Факт остается фактом: если вы неопытны и неквалифицированы, и пытаетесь использовать ИИ для быстрого результата, как вы делали с курсами «Разбогатей быстро» и всем остальным, что попадалось вам под руку, чтобы не браться за что-то долгосрочное, центропийное, что принесет смысл и цель в вашу жизнь, вы потерпите неудачу. Принципы не изменились и никогда не изменятся. Но ведь первые рабочие места, которые заменит ИИ, — это менеджеры по социальным сетям, копирайтеры и контент-маркетологи.

Верно?




Верно.

Они заменят шаблонных, знаете ли, менеджеров по социальным сетям, которые публикуют причудливое изображение, сделанное в Canva, которое не приносит клиенту абсолютно никаких результатов, или контент-маркетолога, который ставит на экран фотографию красивой девушки с подписью в стиле поколения Z, от которой люди уже устали (а это уже можно сделать чем-то вроде Realform), или копирайтера, который писал сообщения в блогах для одной компании и был уволен, потому что ИИ мог делать это быстрее.

Если вы пишете простые посты в блогах только для того, чтобы компания имела онлайн-присутствие, то вы довольно легко заменяемы. Думайте об ИИ как о литературном негре, или призрачном дизайнере, или призрачном кодере, или призрачном кинематографисте. Литературный негр не создает всю историю целиком. Он просто пишет ее. Джеймс Паттерсон, и это шок для большинства людей, использует литературного негра для своих романов. Дело в том, что Джеймс по-прежнему организует сюжет, персонажей, мир, маркетинг, продажи, бизнес и все остальное.

Литературный негр просто связывает это в письменном виде. Именно это и будет делать ИИ, причем не только для написания, но и для всего вышеперечисленного, позволяя Паттерсону делать это все самому, если он захочет. А вот в чем настоящий подвох. ИИ не хватает целостного видения и философии. Люди не подписываются на авторов ради одного куска контента. Они подписываются ради целостного массива их работы. Вы находите ценность в этом видео не потому, что это первое, которое вы посмотрели. Вы находите ценность во всей философии, которую я собрал за последние три-четыре года и которая помогает конкретным творческим личностям осмыслить свое место в мире. Если вы новичок здесь, вы можете найти некоторую ценность, но она накапливается с каждым просмотром. Это центропийно, или, по крайней мере, я на это надеюсь. Хорошая новость в том, что хорошие писатели, или создатели, не будут заменены. Они станут более мощными и динамичными.

Профессиональный интеллект позволил одному человеку создавать больше и быстрее, работая в компании или нет, но только если он ценит способность к действию и саморазвитие. Конечная цель — получать деньги за то, что ты сам собой. Это мой предыдущий твит, который поможет понять, о чем мы будем говорить, потому что большинству людей это не понравится, но ирония в том, что единственный выход — это пройти через это. Чтобы противостоять этому потоку обработанного контента, вы должны внести вклад в человечество, публикуя органический контент. Возможно, «внести вклад в человечество» звучит слишком громко, но когда социальные сети теперь являются медиа, и вы являетесь медиа, а медиа формируют культуру, а культура формирует все, от политики до экономики, что-то такое простое, как публикация в интернете, может быть довольно важным. Я лично считаю, что это один из немногих путей вперед — стать создателем ценности. И в этом нет ничего нового.

Это то, что делали самые успешные и счастливые люди на протяжении всей истории.

Почему?

Счастье происходит от преодоления сопротивления и связи с чем-то большим, чем вы сами. Другими словами, от творчества и вклада. Когда вы творите, вы решаете проблему. Когда вы передаете это творение кому-то другому, вы решаете его проблему. Когда вы становитесь человеком, которому есть что дать ценного, и даете это постоянно, вы учитесь понимать, что такое быть счастливым. Дело в том, что в прошлом это было не очень доступно, но эволюция творческая, и поэтому она решает проблемы. И это был набор проблем, назревавших долгое время: проблемы работы, которую вы ненавидите, образа жизни, который вы не контролируете, и отсутствия доступа к возможностям. А потом появились социальные сети как решение, а вы просто думаете о них как о крайне токсичной платформе. Хорошие стороны социальных сетей по-прежнему недооцениваются.

Во-первых, учиться может любой. У вас под рукой интеллект, особенно с ИИ. Вы можете найти любую информацию, необходимую для достижения того, чего вы хотите достичь. Другое дело, что творить может любой. Вам не нужно разрешения, чтобы публично заявить, кто вы, что вы делаете и почему вы это делаете. И третье: открытым может быть каждый. Вам больше не нужны издатель, доска объявлений или звукозаписывающий лейбл, чтобы написать книгу, найти работу или заниматься музыкой. Ваш личный бренд — это ваше публичное резюме. Но, снова обращаясь к твиту Кевина, если вы пытаетесь создать личный бренд вместо того, чтобы просто быть собой онлайн, ваш онлайн-персонаж... Социальные сети и интернет настолько укоренились в нашей жизни, что они просто таковы. Ваш личный бренд, ваш профиль в социальных сетях — это просто продолжение вас самих. И это невероятно сложная задача, потому что вам на самом деле приходится развиваться.

Вам нужно становиться лучше в письме и устной речи. Если вы хотите внести какой-либо вклад и получать какой-либо независимый доход от своей творческой работы, то вам придется изучить маркетинг. И вам придется изучить бизнес. Вам придется создать продукт. Вам придется смириться с тем, что люди будут критиковать вас и называть идиотом в комментариях. Это очень уязвимое положение. И оно создает бриллианты благодаря всему этому давлению. Дело в том, что социальные сети — это место, где сосредоточено внимание. В прошлом это были такие вещи, как телевидение, рекламные щиты, радио и газеты. У среднестатистического человека часто не было возможности появиться там, чтобы продвинуть свою работу. Другое дело, что ИИ продолжает заменять низкоквалифицированные рабочие места. И еще одно дело, что самые высокооплачиваемые рабочие места зарезервированы для элиты и тех, кто обладает навыками. Это верхний 1%, даже верхний 0,1%.

Это как попасть в НБА. Посмотрите статистику об этом. Вы, вероятно, туда не попадете. Поэтому, на мой взгляд, путь вперед лежит в том, о чем говорил или намекал Навал, о чем я сам много раз говорил в прошлом: я думаю, что каждый должен стать предпринимателем/создателем/владельцем бизнеса. Будущее работы уже давно движется в этом направлении. Посмотрите на статистику удаленной работы и фриланса. И когда крупные компании продолжают отдавать на аутсорсинг свою низкоквалифицированную работу ИИ и другим вещам, это отличный знак. Вам больше не нужно работать на ненавистной работе. Вы можете создавать свою собственную работу. И в этом есть гораздо больше. Это не просто место для продвижения вашей работы. Интернет — это децентрализованная образовательная система. Создатели — это учителя, которые могут давать актуальную и полезную информацию, чья единственная цель не в том, чтобы сделать вас полезным работником, как в школах.




Интернет — это публичная площадь, где вашу ценность могут обнаружить те, кто в ней нуждается. Создание аудитории — это новое резюме и символ статуса. Подписчики — это не столько самолюбование, сколько социальное доказательство того, что люди находят ценность в ваших идеях. И все это связывает то, что предпринимателем может быть любой. Потому что когда новизна и вызов учебы и карьерного роста иссякают в середине 20-х годов, вызывая отсутствие смысла и цели, предпринимательство — это то, как вы продолжаете развивать себя и контролировать свое будущее. Я когда-то создал эту графику, показывающую, что после определенного времени работы на одном месте ваш прогресс начинает плато. Причина, по которой вам так нравилось ходить в школу (возможно, не нравилось, мне не нравилось), но это не ощущалось скучным и бесцельным. У вас действительно было чем заняться. Вы проходили через прогресс. Вы узнавали новое.

Вы совершенствовались, а потом вы идете на эту работу, где есть вызов, и вы должны освоить эти навыки, и конечно, что-то раздражает. Многое не нравится, но такова жизнь. И вы все равно повышаете свой уровень навыков. Оттуда берутся новизна, вызов, удовлетворение и другие вещи. А когда это угасает и вы достигаете плато, это исчезает. И тогда мы застреваем в этой повторяющейся и монотонной роботизированной жизни. И мы не воспринимаем это как знак к тому, чтобы ответвиться и заниматься своим делом.

После того как мы так сильно развились, так многому научились, мы можем учиться еще больше. Мы можем начать самообразование. Это естественный путь. И когда эта монотонная роботизированная жизнь начинает овладевать, это лучшее время, чтобы сделать поворот. Я не говорю: никогда не работайте, никогда не делайте этого. Я говорю: если вы хотите контролировать свой образ жизни, новизну, вызов, смысл и удовлетворение, которые из этого вытекают, предпринимательство — единственный логичный вариант для этого.

Я пишу целую книгу об этом. Я сделаю PDF-версию бесплатной. Вероятно, она выйдет в феврале, этом феврале или марте. Она короткая. Она будет называться «Цель и прибыль». И она даст вам совершенно новый взгляд на то, что означает предпринимательство. Предпринимательство — это не роль или титул. Это состояние ума. Вы можете быть сотрудником с умом предпринимателя. Это высокая способность к действию, которая решает проблемы. Именно таких людей хотят нанимать работодатели, которые будут входить в верхний один процент.

Так что даже в будущем, если вы будете работать на кого-то другого, единственным логичным вариантом по-прежнему остается быть предпринимателем. Конечно, это не всем придется по душе, но послушайте, я не говорю вам делать что-то сумасшедшее. У вас просто застряли в голове все эти убеждения, и когда я говорю эти вещи, кажется, будто срабатывают красные сигналы тревоги, и все эти эмоции, мысли и прочее пытаются противостоять тому, что я говорю, хотя вы даже не знаете меня и не разговаривали со мной.

Я просто продвигаю ценность самоуправления, взятия под контроль тех вещей, которые вы можете контролировать. А ваша работа и ваша жизнь — это одна из таких вещей. И это довольно серьезно. Я показываю вам, что есть путь к тому, чтобы взять под контроль свою жизнь в этом мертвом интернете, о котором мы говорим. Что если вы станете создателем, вам не придется беспокоиться о работе, карьере и ИИ, как сказал бы Навал. Теперь поймите, я говорю не о создателе контента. Мы об этом довольно много говорили. Я говорю о сути вашего существа. Вы человек. Следовательно, вы — создатель. Мы не те жалкие маленькие существа прошлого, которые смотрели на богов как на создателей и думали, что мы сами ничего не можем создать. В какой-то момент это кардинально изменилось, и мы стали создателями. Возможно, это произошло во время Просвещения, когда прогресс действительно начал стремительно развиваться.

И мы осознали: хм, мы можем приобретать знания. Мы можем решать проблемы. Мы можем создавать инструменты, которые позволяют нам не замерзнуть насмерть или не сгореть заживо. И это мышление, которое еще предстоит принять многим людям. Что вы просто можете создавать вещи. Вы просто можете решать проблемы. Да, это будет трудно. Но именно оттуда приходит смысл и цель в вашей жизни. И вы никогда не найдете этого, пока не решитесь. Пока просто не примете боль, борьбу и не осознаете, что борьба и боль в определенных ситуациях могут быть приятными. Вы не животное. Вы не узкий специалист, который процветает только в саванне, как лев, или на Аляске, как белый медведь. И если бы их поменять местами, они бы умерли. Вы не такой. Вы можете надеть куртку, потому что мы создали куртки. Вы можете жить той жизнью, которую хотите, потому что вы можете создавать инструменты, которые позволяют вам жить той жизнью, которую вы хотите.

Дело в этом: интернет — это место, куда сейчас идут создатели. Это самое доступное место, не нужно платить деньги. Не нужно находиться в нужном месте, чтобы встретить нужного человека, чтобы сформировать нужную сеть, чтобы получить нужную работу, чтобы попасть в это. Вы просто можете публиковать свои мысли онлайн и попасть практически перед кем угодно. И дело в том, что создание аудитории, социальные сети, все эти вещи в интернете, мы все еще видим их как нечто отдельное от нас, не являющееся нами. Но я хочу, чтобы вы перестали об этом думать и просто воспринимали это как канал, инструмент для распространения дела всей вашей жизни, для занятия делом всей вашей жизни, потому что это теперь доступно. Именно поэтому интернет был, я думаю, подсознательно создан, чтобы соединяться с кем угодно, потому что мы социальные существа, и для завершения дела всей вашей жизни вам необходимо быть в контакте и связи с другими людьми, которые получают пользу от дела всей вашей жизни.

И когда вы это делаете, вы вынуждены учиться нужным навыкам. Вы задаетесь вопросом: о, какие навыки будут актуальны через 20 лет? Если вы на самом деле просто начнете заниматься этим, вы освоите все мета-навыки, которые не будут заменены. Такие как способность к действию, рассказывание историй, маркетинг, продажи, письмо (не как создатель контента), иллюстрирование истории и то, как оркестрировать ваше видение с помощью ИИ — все это как один человек. Речь не идет о шаблонном контенте и о том, как набрать миллиард подписчиков за шесть месяцев. Вспомните Джордана Питерсона. Он не создатель контента. Он пишет книги. Он выступает с лекциями. У него есть программа для письма. У него есть Peterson Academy, потому что школы не справлялись. Интернет и социальные сети — это просто лучшие инструменты для продвижения дела его жизни.

И это, вероятно, изменится, но настоящие создатели приспособятся. Если бы социальные сети исчезли, вы думаете, Джордан Питерсон просто сказал бы: «О, ну, я создатель контента, так что, похоже, моя работа здесь окончена»? Неважно, будет ли это межгалактическое пространство, виртуальная реальность, или мы вернемся в каменный век, где люди были творцами. Они строили и обменивались вещами. У каждого была своя роль. Следовательно, у них была цель. Независимо от всего этого, ответ — стать создателем. Вы должны решать проблемы и распространять решения. Создавайте интернет, частью которого вы хотите быть. Создавайте контент, который вы хотите видеть в мире. Создавайте продукты, которые вы бы купили, использовали и от которых получили бы пользу. В сфере технологий много говорят о «моутсах» (защитных рвах). Как у замка, окруженного рвом для защиты от врагов.

И когда китайские компании, такие как DeepSeek, начали выпускать модели вроде R1, которые конкурировали с последними моделями ChatGPT за небольшую стоимость, и они были открытым исходным кодом, люди стали кричать: «Моута нет!» Другими словами, у OpenAI нет всех ресурсов исключительно у себя. Они не станут этой мегакорпорацией, которая просто контролирует весь доступный вам интеллект и взимает за это огромную плату. На самом деле, интеллект как ресурс будет стремиться к нулю. И это означает, как говорят некоторые люди в Twitter, что «моут» в данном случае — это прикладной уровень, создание интерфейсов, создание вариантов использования ИИ. И это иронично, потому что люди, создающие «обертки» (интерфейсы) для ChatGPT, имеют настоящую безопасность, хотя все над ними просто смеялись. Это означает, что, например, с программой вроде Cortex, когда в ней есть функции ИИ, можно сказать: «О, ну, в ней просто есть ChatGPT», хотя это не так, в ней есть ИИ, но «О, в ней есть функция чата.

Я могу просто сделать это в ChatGPT, зачем мне Cortex?». Вы упускаете суть, потому что люди не осознают, что все является «оберткой». Вспомните Typeform, компанию, стоимость которой миллиард долларов. Если вы не знаете Typeform... Typeform — онлайн-конструктор форм. Это «обертка» для HTML-формы; любой может скопировать и вставить код формы на страницу. Typeform — почему они стоят миллиард долларов? Я позволю вам самим это обдумать. Это поднимает вопрос: в чем заключается высшая «обертка»? В чем «моут»? И это вы. Вы — ниша. Ваше видение, интересы, опыт, ценности, убеждения и все, что делает вас вами, — это самая уникальная «обертка» любого творения, которое вы выпускаете в мир. Пишите для себя. Создавайте для себя. Решайте свои собственные проблемы и продавайте решение. По всем меркам, это единственный способ обезопасить себя в будущем. Все остальное — отвлекающие факторы.

С 1 сентября 2025 года изучение искусственного интеллекта станет обязательным во всех школах Китая

Новая образовательная политика распространяется на всех учащихся с шести лет. Ежегодно программа будет включать не менее восьми часов занятий по основам ИИ.

Учебные заведения получат рекомендации по обновлению программ, подготовке преподавателей и интеграции технологий в предметы естественно-научного и технологического циклов.

Младшие классы начнут с базовых концепций через интерактивные форматы, а старшие — перейдут к сложным темам: машинному обучению, робототехнике и практическому применению ИИ.

Эта инициатива направлена на формирование цифровой грамотности с раннего возраста и подготовку поколения, свободно владеющего технологиями будущего.

Решение отражает глобальный тренд: ИИ-образование из узкоспециальной области превращается в базовый элемент школьной программы, стоящий в одном ряду с математикой и языками.