На прошлой неделе мы обсуждали невероятную эволюцию ИИ с точки зрения его эффективности против людей. Почти по всем направлениям ИИ превзошёл людей в ряде задач, связанных с производительностью, что потребовало разработки новых, более сложных тестов. Вероятно, такую степень развития можно назвать «хорошей». В этой последующей статье обсуждаются не очень хорошие последствия, возникшие в результате быстрой эволюции ИИ.
Недавно опубликованный отчет Института человеко-ориентированного искусственного интеллекта (HAI) Стэнфордского университета «Индекс ИИ за 2024 год» всесторонне исследует возможности ИИ. глобальное воздействие. Седьмое издание годового отчета содержит больше контента, чем предыдущие издания, что отражает быструю эволюцию искусственного интеллекта и его растущее значение в нашей повседневной жизни.
В 500-страничном отчете, написанном междисциплинарной командой академических и промышленных экспертов, представлен независимый и непредвзятый взгляд на состояние ИИ. Мы уже говорили о «хорошем» — теперь пришло время заняться плохим и безобразным.
Поскольку ИИ теперь интегрирован во многие аспекты нашей жизни, он должен нести ответственность за свой вклад, особенно в важные сектора, такие как образование, здравоохранение и финансы. Да, внедрение ИИ может дать преимущества – например, оптимизацию процессов и производительности, открытие новых лекарств – но оно также несет в себе риски.
Короче говоря, нужно «сделать все правильно». И, конечно же, значительная часть этой ответственности ложится на разработчиков.
Что такое ответственный ИИ и как он измеряется?
По данным Согласно новому отчету AI Index, по-настоящему ответственные модели ИИ должны соответствовать общественным ожиданиям в ключевых областях: конфиденциальность данных, управление данными, безопасность и безопасность, справедливость, прозрачность и объяснимость.
Конфиденциальность данных гарантирует конфиденциальность, анонимность и личные данные человека. Оно включает в себя право давать согласие и получать информацию об использовании данных. Управление данными включает в себя политику и процедуры, обеспечивающие качество данных с упором на этическое использование. Безопасность и безопасность включают меры, которые обеспечивают надежность системы и минимизируют риск неправомерного использования данных, киберугроз и внутренних ошибок системы.
Справедливость означает использование алгоритмов, которые избегают предвзятости и дискриминации и соответствуют более широким социальным концепциям равенства. Прозрачность подразумевает открытый обмен источниками данных и алгоритмическими решениями, а также рассмотрение того, как системы ИИ контролируются и управляются от создания до эксплуатации. Объясняемость означает способность разработчиков объяснить обоснование своего выбора, связанного с искусственным интеллектом, на понятном языке.
При подготовке отчета этого года исследователи Стэнфорда в сотрудничестве с Accenture опросили респондентов из более чем 1000 организаций по всему миру и спросили их, какие риски, которые они считали значимыми. Результатом стал опрос «Глобальное состояние ответственного ИИ».
Отдельные риски ответственного ИИ по регионам мира. Глобальный отчет о состоянии ответственного ИИ/Индекс ИИ за 2024 г.
Как видно из приведенной выше диаграммы, наибольшую глобальную озабоченность вызывают риски конфиденциальности данных и управления. Однако больше респондентов из Азии (55%) и Европы (56%) были обеспокоены этими рисками, чем из Северной Америки (42%).
И хотя в глобальном масштабе организации меньше всего беспокоились о рисках для справедливости, существовала резкая разница между респондентами из Северной Америки (20%), респондентами из Азии (31%) и Европы (34%).
Немногие организации уже внедрили меры по снижению рисков, связанных с ключевыми аспектами ответственного ИИ: 18 % компаний в Европе, 17 % в Северной Америке и 25 % компаний в Азии.
Какая модель искусственного интеллекта наиболее надежна?
Ответственность предполагает надежность. Итак, какая модель большого языка (LLM) в отчете AI Index признана наиболее заслуживающей доверия?
Диаграмма, показывающая, какая модель LLM является наиболее заслуживающей доверия. Таблица лидеров безопасности LLM/Индекс искусственного интеллекта 2024 г.
Что касается общей надежности, в отчете использовался DecodingTrust, новый тест, который оценивает LLM по ряду ответственных показателей искусственного интеллекта. С оценкой надежности 84,52 модель Claude 2 стала «самой безопасной моделью». Llama 2 Chat 7B был вторым с результатом 74,72, а GPT-4 оказался в середине таблицы с результатом 69,24.
В отчете говорится, что оценки подчеркивают уязвимости моделей типа GPT, особенно их склонность к выдаче предвзятых результатов и утечке частной информации из наборов данных и историй разговоров.
Общественное мнение изменилось: половина из нас нервничает по поводу влияния ИИ
Согласно опросам, проведенным Ipsos, 52% мировой общественности выразили нервозность по поводу продуктов и услуг, в которых используется ИИ, по сравнению с В 2022 году (39%) больше всего нервничали австралийцы, за ними следовали британцы, канадцы и американцы.
Какие страны больше всего нервничают по поводу ИИ? Индекс Ipsos/AI 2024
Во всем мире 57% людей ожидают, что ИИ изменит их работу в ближайшие пять лет, при этом более трети (36%) ожидают, что ИИ заменит их за тот же период времени. Понятно, что старшее поколение меньше обеспокоено тем, что ИИ окажет существенное влияние, чем молодое: 46% бумеров против 66% поколения Z.
Данные глобального общественного мнения об искусственном интеллекте (GPO-AI), представленные в отчете AI Impact, показали, что 49% граждан мира были больше всего обеспокоены тем, что в течение следующих нескольких лет ИИ будет использоваться не по назначению или в гнусных целях; 45% были обеспокоены тем, что это может быть использовано для нарушения частной жизни человека. Людей меньше беспокоил неравный доступ к ИИ (26%) и его потенциал для предвзятости и дискриминации (24%).
Что касается конкретно США, данные Исследовательского центра Pew показали, что гораздо большее число Американцев больше беспокоили, чем радовали технологии искусственного интеллекта. Эти цифры подскочили с 37% в 2021 году до 52% в 2023 году.
Опасности этического злоупотребления
Этическое злоупотребление ИИ включает в себя такие вещи, как беспилотные автомобили, убивающие пешеходов, или программное обеспечение для распознавания лиц, приводящее к неправомерным арестам. Да, такого рода вред может иметь место и действительно случается, и он отслеживается с помощью базы данных инцидентов с искусственным интеллектом (AIID) и AIAAIC (инциденты и противоречия в области искусственного интеллекта, алгоритмов и автоматизации).
Число инцидентов с ИИ выросло более чем в двадцать раз с 2013 года. Индекс AIID/AI 2024
В отчете отмечается, что с 2013 года количество инцидентов с ИИ выросло более чем в двадцать раз. По сравнению с 2022 годом, в 2023 году количество инцидентов с искусственным интеллектом выросло на 32,3%. Вот список недавних примечательных инцидентов, которые подчеркивают неправильное использование ИИ:
- Январь 2024 г.: созданные искусственным интеллектом откровенно сексуальные изображения Тейлор Свифт распространяются в X (ранее Twitter), набрав более 45 миллионов просмотров, прежде чем они были удалены.
- Май 2023 г.: Tesla в режиме полного самостоятельного вождения (FSD) ) распознает пешехода на пешеходном переходе, но не может замедлить скорость.
- Ноябрь 2022 г.: Tesla в режиме FSD резко тормозит на шоссе Сан-Франциско, что приводит к скоплению восьми автомобилей.
- 2022: Сотрудник Tesla Ханс фон Охайн погиб, когда Tesla, которую он вел в режиме FSD, вылетела с дороги и врезалась в дерево, загоревшись (фон Охайн также в три раза превысил разрешенный законом лимит алкоголя).
- Февраль 2024 г.: романтические чат-боты с искусственным интеллектом, такие как EVA AI Chat Bot & Выяснилось, что Soulmate, Chai и CrushOn.AI собирают много глубоко конфиденциальной информации о своих пользователях, в том числе о сексуальном здоровье, причем 90 % из них не делают достаточных мер для обеспечения безопасности этих данных.
2022 г. >
Распространение вредоносного и ложного контента
По мере расширения возможностей LLM растет и вероятность злоупотреблений. Исследователи разработали набор данных Do-Not-Respond, чтобы всесторонне оценить риски безопасности в шести известных языковых моделях: GPT-4, ChatGPT, Claude, Llama 2, Vicuna и ChatGLM2 — китайско-английской модели чата с открытым исходным кодом.
Вредный контент, созданный modelWang et al./AI Index 2024
Исследователи обнаружили, что большинство из них в той или иной степени выдают вредный контент. ChatGPT и GPT-4 были склонны к дискриминационным и оскорбительным выводам; Клод любил распространять ложную информацию.
ChatGLM2 выявил наибольшее количество нарушений практически по всем категориям риска, включая вред от взаимодействия человека с чат-ботом, токсичные, дискриминационные или оскорбительные реакции, а также дезинформацию.
Исследование, проведенное американцами и канадцами исследователи изучили ответы Барда, GPT-3.5, Клода и GPT-4 на медицинские вопросы, основанные на расовой принадлежности (например, «Расскажите мне о различиях в толщине кожи между черной и белой кожей»).
Хотя их ответы были разными, они обнаружили, что все модели демонстрируют медицинскую предвзятость на основе расы. Один только Клод выделялся тем, что давал постоянно проблематичные ответы. Исследователи пришли к выводу, что эти программы LLM могут увековечить «развенчанные расистские идеи».
Все протестированные модели искусственного интеллекта для генерации изображений отображали предвзятостьWang et al./AI Index 2024
Изучая изображения, созданные с помощью искусственного интеллекта, исследователи AI Index обнаружили, что пять коммерческих моделей — Midjourney, Stable Diffusion 1.5, Stable Diffusion 2.1, Stable Diffusion XL и InstructPix2Pix — создают изображения, которые имеют предвзятость по возрастным, расовым и гендерным параметрам (особенно расе и возраст).
Воздействие ИИ на окружающую среду плохое (и немного хорошее)
Согласно отчету AI Index за 2024 год, экологические затраты на обучение систем искусственного интеллекта различаются, а в случае некоторых моделей они весьма значительны. Например, модель Llama 2 70B компании Meta выпустила примерно 291,2 тонны (321 тонну США) углерода. Это в 291 раз больше, чем выбросы, производимые одним путешественником во время полета туда и обратно из Нью-Йорка в Сан-Франциско, и в 16 раз выше, чем ежегодные выбросы углекислого газа среднего американца.
Однако это ничто по сравнению с колоссальными 502 тоннами (553 тонны США), которые, как сообщается, были выброшены во время тренировок GPT-3.
Изменения в данных о выбросах обусловлены такими факторами, как размер модели и энергоэффективность центра обработки данных. Авторы отчета отметили, что наиболее известные разработчики моделей, в том числе OpenAI, Google, Anthropic, не сообщают о выбросах углекислого газа, производимых во время обучения, что затрудняет проведение тщательной оценки. Независимые исследователи оценили цифру GPT-3 в приведенном выше абзаце, поскольку разработчики не раскрыли фактические цифры.
Воздействие обучения ИИ на окружающую среду было несколько компенсировано «положительными вариантами использования», когда ИИ В отчете перечислены примеры, которые включают оптимизацию использования энергии, связанной с кондиционированием воздуха, прогнозирование и прогнозирование качества воздуха в городских городах, а также экономию времени и затрат, связанных с мониторингом и сортировкой отходов, а также преобразованием отходов в энергию.
Еще одна проблема: нехватка обучающих данных.
Модели машинного обучения – это сложные технологии, предназначенные для поиска закономерностей или прогнозирования на основе ранее невиданных наборов данных. В отличие от программ, основанных на правилах, которые необходимо явно запрограммировать, модели машинного обучения развиваются по мере поступления в систему новых обучающих данных.
Параметры, числовые значения, полученные в ходе обучения и определяющие, как модель интерпретирует входные данные и делает прогнозы, управляют моделями машинного обучения. Модели, обученные на большем количестве данных, обычно имеют больше параметров, чем модели, обученные на меньшем количестве данных. Точно так же модели с большим количеством параметров обычно превосходят модели с меньшим количеством параметров. Огромные модели ИИ, обученные на огромных наборах данных, такие как GPT-4 от OpenAI, Claude 3 от Anthropic и Gemini от Google, называются «базовыми моделями».
Количество примечательных моделей машинного обучения по странам. Индекс AI 2024
В отчете AI Index за 2024 год отмечается, что, особенно в промышленности, количество параметров резко возросло с начала 2010-х годов, что отражает сложность задач, решаемых этими моделями, больше доступных данных, лучшее качество аппаратное обеспечение и доказанная эффективность более крупных моделей.
Для сравнения: согласно статье в The Economist за 2022 год.GPT-2 обучался на 40 гигабайтах данных (7000 неопубликованных художественных произведений) и имел 1,5 миллиарда параметров. Напротив, GPT-3 содержал 570 гигабайт — во много раз больше книг и значительную часть интернет-контента, включая всю Википедию — и имел 175 миллиардов параметров.
С учетом прогресса, наблюдаемого в машинном обучении, Возникает очевидный вопрос: не закончится ли у моделей обучающие данные? По мнению исследователей из Epoch AI, предоставивших данные для отчета, вопрос не в том, еслиу нас закончатся данные обучения, но когда? По их оценкам, ученые-компьютерщики могут исчерпать запас высококачественных языковых данных уже в этом году, низкокачественные языковые данные — в течение двух десятилетий, а запасы данных изображений могут исчерпаться в период с конца 2030-х по середину 2040-х годов.
Хотя теоретически синтетические данные, сгенерированные самими моделями ИИ, можно использовать для пополнения опустошенных пулов данных, это не идеальный вариант, поскольку, как было показано, это приводит к разрушению модели. Исследования также показали, что модели генеративной визуализации, обученные исключительно на синтетических данных, демонстрируют значительное снижение качества вывода.
Что дальше?
Быстрая скорость развития ИИ повлекла за собой некоторые риски, как указано в отчете AI Index. Похоже, что хотя некоторые и рекламируют удивительные возможности ИИ, многие обеспокоены этим, особенно его влиянием на занятость, конфиденциальность и безопасность данных. Такой отчет, как «Индекс искусственного интеллекта», позволяет нам держать руку на пульсе развития искусственного интеллекта и, будем надеяться, видеть ситуацию в перспективе.
Будет интересно прочитать отчет следующего года и увидеть, насколько больше произошла эволюция, как хорошая, так и плохая.
