FX.co ★ ChatGPT и всичко-всичко-всичко... Игра с нарушаване на всички правила

Както стана ясно, „всяка компания, всеки човек, всеки бизнес - това е езиков бизнес. Езиковите потоци са дълбоко вдъхновени в него. Затова, ако можете да добавите малко стойност към съществуващите езикови работни процеси, тогава ИИ може да бъде широко приет“, смята Грег Брокман, президент и съосновател на OpenAI.

Днес компанията, основана през 2015 г., се оценява на почти 30 милиарда долара, а нейният ChatGPT викна истинска златна треска за подобни продукти на изкуствен интелект.

Интересно е, че при създаването на ИИ стандартните правила на Силиконовата долина за успешни стартъпи се оказаха неспособни да се приложат. "Ни отне четири с половина години, за да пуснем продукта на пазара. Нашата цел е да станем най-капиталоемкия стартъп в историята на Силиконовата долина. Създавахме технология без никаква представа за това кой ще бъдат нашите клиенти и за какво ще я използват", така описва началното развитие на компанията нейният изпълнителен директор Сам Алтман през началото на май.

Липсват на ChatGPT:

• социални функции
• интегриран обмен
• интегриран вирусен цикъл и т.н.

Пол Греъм, съосновател и бивш глава на Y Combinator (през 2014 г. го замества Сам Алтман), смята, че ИИ е "решение на много повече проблеми, отколкото дори разработчиците му предполагат".

И тук той, разбира се, е хиляда пъти прав. Особено ако се има предвид, че веригата "проблем – ИИ – решение" все по-често се представя в обратния вид "ИИ – проблем – има ли решение?".

С ChatGPT можете да получите авторитетен текст или визуално изображение с едно натискане на бутон. Но тази леснота е по-лоша от измамата. С разпространяването на лихорадката ИИ, всички правила за интернет и навигацията в мрежата рискуват да бъдат разрушени. И спамът, който вече сега е твърде дразнещ, е най-малката от проблемите.

Специалистите откриха, че ИИ може да бъде използван като оръжие. Неговата скорост и изчислителна мощ могат потенциално да превземат защитниците човешка победа. Това създава огромни проблеми за киберсигурността, за които в момента дори не си представяме. На практика, ИИ вече започна да преписва механиката на интернет.

В скоро време базовите основи на интернет сигурност ще бъдат поставени под въпрос, като:

• криптиране
• откриване на злонамерен софтуер
• двуфакторна аутентикация
• фото- и видео-проверка и други

Това ще изисква принципно нови начини за защита. Например, през май при влизане в сайта на HBO Max потребителите трябваше да решават сложна поредица от загадки, за да докажат своето "човешко" съществуване, вместо капчата "Не съм робот" или изображенията "Маркирайте всички квадратчета с ...".

През август алармира главата на криптовалутната борса Binance, Чанпен Чжао. Причината за неговото предупреждение беше изкуствено генерираният видеоклип от ИИ. На него Джошуа Сюи - съосновател и изпълнителен директор на видео платформата HeyGen - рекламира продукта на своята компания. Клонът изглежда и говори абсолютно като истинският Джошуа Сюи (виж снимката).

Главата на крипто-платформата Binance, която често изисква снимка или видео за потвърждение на самоличност, смята, че изобретението HeyGen ще позволи на злонамерени лица да получат достъп до сметките на клиенти. Инструментът скоро ще бъде публично достъпен и ще позволи на всеки да създаде реален цифров аватар само за "две минути".

Но финансовите проблеми са само върхът на айсберга. Изкуственият интелект може да създаде проблеми за хуманното общество като цяло. Конкретно:

подкопничество на достоверността на данните разрушаване на вярата в надеждните източници на информация генериране на психологически манипулации от толкова голям мащаб, с които човечеството не се е сблъскало в своята история. създаване на злонамерени програми, за да се извършат целенасочени нападения срещу определени хора или компании - нещо като цифровият еквивалент на "умна бомба" разполагане на изображението на вашия профил ... навсякъде, където считат за нужно създаване на видео обръщения на политици с изкуствено обработен глас, говорещи само за интересите ви (като вариант - на ваш роднина / познат с молба за помощ) създаване на точна копие на вас със сметка на вашите предпочитания и начин на поведение (на базата на информация от общодостъпни уеб сайтове, социални профили и др.) четене на вашия имейл, бележки в календара, разбиране на вашите покупки и т.н. с помощта на толкова умно приложение-дневник използване на всичкото съдържание, което вие създавате, за обучение на своите ИИ модели напълно безплатно (!)

Съгласете се, че в този контекст твърдението "Който владее информацията, владее света" придобива напълно ново значение...

В същото време интернет все повече се превръща във пространство, създадено от машини и за машини. Например NewsGuard, която проследява дезинформацията и оценява надеждността на информационните уебсайтове, вече е намерила около 350 новинни онлайн издания, които се генерират почти изцяло от AI и почти не се контролират от хора.

Един Филип Менцер, професор от Индиана, вече е открил в мрежата чат-ботове - автори на голям обем съдържание в платформите Х (предишно Twitter) и Facebook. Новата "мода" не изпуска и онлайн търговията в Amazon и Etsy. Американският инженер Кристофър Коуъл готвел за публикуване свояте технически учебник, обаче на Amazon бил открита книга със същото заглавие две седмици преди срока. Оказалось, че ботът ChatGPT е написал двойник на книгата, а измамникът е взел заглавието от анонсите на сайта.

Представете си, точно сега е трудно, но по мярка че мрежата се залива с продукт, създаден от ботове, хората повече няма да създават и консумират съдържание в Интернет. За тях Интернетът ще стане мъртъв.

Между другото, професорът по изкуствен интелект в Университета на Ню Саут Уелс Тоби Уолш смята, че в този случай задачата на създателите на самия ИИ също ще се усложни. "Днес изкуственият интелект функционира, защото се обучава върху човешки усилия и изобретателност,", каза ученият. – Ако второ поколение на генеративен ИИ бъде обучено върху резултатите от първото поколение, качеството ще спадне значително."

През май тази година учени от Оксфорд установиха, че обучаването на изкуствен интелект с помощта на други изкуствени интелект също води до деградиране на "ученика" и в крайна сметка – до срив. Освен това, съдържанието, създадено от изкуствения интелект, постепенно потисква хуманното. В резултат на това, Microsoft, Google и други съкращават нивото на началните данни за подобряване на моделите си.

Интернетът вече никога няма да бъде същият.

И не само интернет. Анализатори от Goldman Sachs смятат, че:

• До 2025 година инвестициите в изкуствен интелект по света може да достигнат 200 милиарда долара
• В рамките на десетилетие изкуственият интелект ще повиши глобалната производителност на труда с повече от 1 процентен пункт годишно
• Инвестициите в изкуствен интелект могат да имат по-сериозно влияние върху брутния вътрешен продукт на САЩ в сравнение с изобретяването на електричеството или персоналните компютри

"Нашите икономисти очакват, че инвестициите в ИИ ще бъдат основно свързани с инвестиции в оборудване за обучение на ИИ модели и изпълнение на ИИ заявки, както и с увеличаване на разходите за софтуер, подкрепящ ИИ", споделят в Goldman Sachs.

Ще бъде продължено...

Темата започва

Дали ChatGPT е толкова страшен и какво има общо с ябълката с червей?

Дали ChatGPT е толкова страшен... Регулаторът, клиентът или инвеститорът? (част 2)

Дали ChatGPT е толкова страшен... Въпросите все още са повече от отговорите (част 3)

Дали ChatGPT е толкова страшен... Всеки може да стане вълшебник на търговията с ИИ? (част 4)