Как оказалось, «каждая компания, каждый человек, каждый бизнес – это языковой бизнес. В нем глубоко встроены языковые потоки. Поэтому, если вы можете добавить немного ценности в существующие языковые рабочие процессы, тогда ИИ сможет быть принят так широко», – считает Грег Брокман, президент и соучредитель OpenAI.
Сегодня компания, основанная в 2015 году, оценивается почти в 30 млрд долларов , а ее ChatGPT вызвал самую настоящую золотую лихорадку подобных продуктов искусственного интеллекта. Причем OpenAI – это компания открытого типа и ее акции не котируются на фондовой бирже.
Примечательно, что, когда создавался ИИ, стандартные правила Силиконовой долины для успешных стартапов оказались к нему неприменимы. «Нам потребовалось четыре с половиной года, чтобы запустить продукт. Мы собираемся стать самым капиталоемким стартапом в истории Силиконовой долины. Мы создавали технологию, не имея ни малейшего представления о том, кем будут наши клиенты и для чего они будут ее использовать», – так в начале мая описывал необычный подъем компании ее генеральный директор Сэм Альтман.
У ChatGPT отсутствуют:
социальные функции встроенный обмен встроенная вирусная петля и т. д.Пол Грэм, соучредитель и бывший глава Y Combinator (в 2014 году его сменил Сэм Альтман), считает, что ИИ – это «решение гораздо большего количества проблем, чем его разработчики даже подозревали».
И здесь он, конечно, тысячу раз прав. Особенно если учесть, что цепочка «проблема – ИИ – решение» все чаще выступает в несколько перевернутом виде «ИИ – проблема – есть решение?».
ChatGPT позволяет одним нажатием кнопки получить авторитетный текст или визуальное изображение. Но простота эта хуже обмана. По мере распространения лихорадки ИИ рискуют быть разрушены все правила интернета и навигация по сети. И спам, который уже сейчас раздражает сверх меры, – это самая меньшая из проблем.
Специалисты обнаружили, как ИИ может быть использован в качестве оружия. Его скорость и вычислительная мощность потенциально способны превзойти защитников-людей. Он создает огромные проблемы для кибербезопасности, о которых сейчас мы даже не догадываемся. По сути – ИИ уже начал переписывать механику интернета.
В ближайшее время будут поставлены под сомнение такие фундаментальные основы безопасности в интернете, как:
шифрование обнаружение вредоносных программ многофакторная аутентификация фото- и видеоверификация и др.Это потребует принципиально новых способов защиты. Например, еще в мае при входе на сайт HBO Max вместо капчи «Я не робот» или сетки изображений «выбрать все квадраты с ...» пользователи должны были решить сложную серию головоломок, чтобы доказать свою «человечность».
А в агусте поднял тревогу глава криптовалютной биржи Binance Чанпэн Чжао. Причиной его предупреждения стал сгенерированный ИИ видеоклип. На нем Джошуа Сюи – соучредитель и генеральный директор видеоплатформы HeyGen – рекламирует продукт своей компании. Клон выглядит и говорит точно так же, как настоящий Джошуа Сюи (см. фото).
Глава криптоплатформы Binance, которая часто требует фото или видео с подтверждением личности, считает, что изобретение HeyGen позволит злоумышленникам получить доступ к счетам клиентов. И ужу очень скоро этот инструмент станет общедоступным и позволит любому создать реальный цифровой аватар всего за «две минуты»!
Но финансовые проблемы – это только верхушка айсберга. Искусственный интеллект способен создать проблемы для человеческого общества в целом.
Вот только несколько примеров того, как может навредить ИИ: Поставить под сомнение достоверность данных. Разрушить веру в надежные источники информации. Сгенерировать психологические манипуляции такого масштаба, с которыми человечеству в своей истории еще приходилось сталкиваться. Создать версии вредоносных программ для нанесения целевых ударов по конкретным людям или компаниям – что-то вроде цифрового эквивалента «умной бомбы». Разместить изображение вашего профиля... везде, где посчитают нужным... Использовать весь контент, созданный вами для обучения своих моделей ИИ бесплатно! Создать видеообращение, например, известного политика – с искусственно переработанным голосом, который будет говорить исключительно на волнующие вас темы (как вариант – вашего родственника/знакомого с просьбой о помощи). Создать вашу точную копию с учетом ваших предпочтений и манеры поведения (на основе информации с общедоступных веб-сайтов, профилей в соцсетях и т. д.). С помощью «умного» приложения-ежедневника прочесть вашу электронную почту, заметки в календаре, узнать ваши покупки. И так далее, так далее, так далее... Для справки – сами создатели ChatGPT прописывали возможные области его применения в течение нескольких месяцев!Согласитесь, что в этом контексте утверждение «Кто владеет информацией, тот владеет миром» приобретает совсем новый смысл...
Вместе с тем интернет все больше становится похож на пространство, созданное машинами и для машин. Например NewsGuard, которая которая отслеживает дезинформацию и оценивает достоверность информационных веб-сайтов, нашла уже около 350 новостных онлайн-изданий, которые почти полностью генерируются ИИ и практически не контролируются людьми.
А Филиппо Менцер, профессор из Индианы, уже обнаружил в сети чат-ботов – авторов объемного контента на платформах X (ранее Twitter) и Facebook. Не обошла новая «мода» и онлайн-продажи на Amazon и Etsy. Американский инженер Кристофер Коуэлл подготовил к изданию свой технический учебник, но обнаружил на Amazon книгу с таким же названием на две недели раньше срока. Оказалось, что книгу-двойник написал ChatGPT, а название его мнимый автор-мошенник взял из анонсов сайта.
Сейчас трудно это представить, но по мере того, как сеть наводнится продуктом, созданным ботами, люди больше не будут создавать и потреблять контент в интернете. Интернет для них станет мертвым.
Кстати, профессор искусственного интеллекта в Университете Нового Южного Уэльса Тоби Уолш считает, что в этом случае также усложнится жизнь создателей самого ИИ. «Сегодня искусственный интеллект работает, потому что он обучается на человеческом поте и изобретательности, – сказал ученый. – Если генеративный ИИ второго поколения будет обучен на выхлопе первого поколения, качество резко упадет».
В мае этого года исследователи из Оксфорда отметили, что обучение ИИ на опыте других ИИ приводит «ученика» к его деградации, а в конце концов – к краху. Кроме того, контент, созданный ИИ, постепенно заглушает человеческий. В результате этого у Microsoft, Google и др. сокращается уровень исходных данных для улучшения своих моделей.
Интернет уже никогда не будет прежним.
И не только интернет. Аналитики из Goldman Sachs считают, что:
К 2025 году инвестиции в ИИ по всему миру могут достичь 200 млрд долларов. В течение десятилетия ИИ повысит глобальную производительность труда более чем на 1 процентный пункт в год. Инвестиции в ИИ могут оказать более значительное влияние на ВВП США , чем даже изобретение электричества или персональных компьютеров«Наши экономисты ожидают, что инвестиции в ИИ будут в основном связаны с вложениями в оборудование для обучения моделей ИИ и выполнения запросов ИИ, а также с увеличением расходов на программное обеспечение с поддержкой ИИ», – заявили в Goldman Sachs.
Продолжение следует...
Начало темы
Так ли страшен ChatGPT... Вопросов пока больше, чем ответов (ч. 3)
Так ли страшен ChatGPT... С ИИ стать волшебником торговли может каждый? (ч. 4)