FX.co ★ ChatGPT et tout ça... Un jeu enfreignant toutes les règles

Comme il s'est avéré, "chaque entreprise, chaque individu, chaque activité économique est un business linguistique. Les flux linguistiques y sont profondément intégrés. Par conséquent, si vous pouvez ajouter de la valeur aux processus de travail linguistiques existants, l'IA pourra alors être largement acceptée", estime Greg Brockman, président et cofondateur d'OpenAI.

Aujourd'hui, l'entreprise fondée en 2015 est évaluée à près de 30 milliards de dollars, et son ChatGPT a suscité une véritable fièvre de l'or pour de tels produits d'intelligence artificielle.

Il est intéressant de noter que lors de la création de l'IA, les règles standard de la Silicon Valley pour les start-ups à succès étaient inapplicables. "Nous avons mis quatre ans et demi pour lancer notre produit. Nous prévoyons de devenir la start-up la plus capitalisée de l'histoire de la Silicon Valley. Nous avons développé une technologie sans avoir la moindre idée qui seront nos clients et comment ils l'utiliseront", a déclaré en mai dernier le directeur général de l'entreprise, Sam Altman.

ChatGPT n'a pas:

• des fonctionnalités sociales
• un échange intégré
• une boucle virale intégrée, etc.

Paul Graham, le cofondateur et ancien directeur de Y Combinator (en 2014, il a été remplacé par Sam Altman), estime que l'IA est une "solution à beaucoup plus de problèmes que les développeurs ne l'avaient même soupçonné".

Et il a mille fois raison. Surtout si l'on considère que la chaîne "problème - IA - solution" se présente de plus en plus souvent dans un sens inversé, "IA - problème - y a-t-il une solution ?".

Avec ChatGPT, il est possible d'obtenir d'un simple clic un texte autorisé ou une image visuelle. Mais cette simplicité est pire qu'une tromperie. À mesure que la fièvre de l'IA se répand, toutes les règles d'Internet et la navigation sur le Web risquent d'être détruites. Et le spam, qui est déjà très irritant, est le moindre des problèmes.

Des experts ont découvert comment l'IA peut être utilisée comme une arme. Sa vitesse et sa puissance de calcul pourraient potentiellement dépasser celle des défenseurs humains. Il pose de nombreux problèmes en matière de cybersécurité dont nous ne sommes même pas conscients actuellement. En réalité, l'IA a déjà commencé à réécrire la mécanique de l'Internet.

Prochainement, les fondements de la sécurité sur Internet tels que:

• le chiffrement
• la détection de logiciels malveillants
• l'authentification à plusieurs facteurs
• la vérification d'images et de vidéos, etc.

seront remis en question. Cela nécessitera de nouvelles méthodes de protection fondamentales. Par exemple, en mai dernier, lors de la connexion au site HBO Max, les utilisateurs ont dû résoudre une série complexe de casse-têtes pour prouver leur "humanité", au lieu de simplement répondre à une captacha "Je ne suis pas un robot" ou sélectionner toutes les cases correspondantes.

Et en août, le PDG de la bourse de cryptomonnaie Binance, Changpeng Zhao, a tiré la sonnette d'alarme. La raison de son avertissement était une vidéo générée par une IA. Sur celle-ci, Joshua Sui, co-fondateur et directeur général de la plateforme vidéo HeyGen, promeut le produit de son entreprise. Le clone ressemble et parle exactement comme le vrai Joshua Sui (voir photo).

Le PDG de la plateforme crypto Binance, qui demande souvent une photo ou une vidéo pour confirmer l'identité, estime que l'invention de HeyGen permettra aux criminels d'accéder aux comptes des clients. L'outil deviendra bientôt public et permettra à n'importe qui de créer un avatar numérique réel en seulement "deux minutes".

Mais les problèmes financiers ne sont que la partie visible de l'iceberg. L'intelligence artificielle est capable de créer des problèmes pour la société humaine dans son ensemble. Cela inclut notamment :

remettre en question la véracité des données

ébranler la confiance dans les sources d'information fiables

générer des manipulations psychologiques d'une ampleur sans précédent dans l'histoire de l'humanité

créer des versions de logiciels malveillants pour effectuer des attaques ciblées contre des personnes ou des entreprises - quelque chose comme l'équivalent numérique d'une "bombe intelligente"

afficher votre profil... partout où ils le jugent nécessaire

créer des vidéos de politiciens avec une voix artificiellement modifiée, ne traitant que des sujets qui vous préoccupent (par exemple, vous pouvez demander de l'aide à un parent ou un ami)

créer une copie précise de vous-même en prenant en compte vos préférences et votre comportement (à partir d'informations disponibles publiquement sur les sites web, les profils de réseaux sociaux, etc.)

lire votre courrier électronique, consulter vos notes de calendrier, connaître vos achats, etc., grâce à une application-agenda si intelligente

utiliser tout le contenu que vous avez créé pour former gratuitement ses modèles d'IA (!)

Admettez que dans ce contexte, l'affirmation "Celui qui détient l'information détient le monde" prend un tout nouveau sens...

Cependant, Internet devient de plus en plus semblable à un espace créé par les machines et pour les machines. Par exemple, NewsGuard, qui traque la désinformation et évalue la crédibilité des sites web d'information, a déjà identifié près de 350 publications en ligne qui sont presque entièrement générées par une intelligence artificielle et pratiquement non contrôlées par des humains.

Un professeur d'Indiana, Philippo Menzer, a déjà découvert des chatbots sur les plateformes X (anciennement Twitter) et Facebook - créateurs de contenus volumineux. La nouvelle "tendance" n'a pas échappé non plus aux ventes en ligne sur Amazon et Etsy. L'ingénieur américain Christopher Cowell avait préparé son manuel technique pour publication, mais il a découvert sur Amazon un livre portant le même titre deux semaines avant la date prévue. Il s'est avéré que le livre doublon a été rédigé par ChatGPT, et le fraudeur a pris le titre des annonces du site.

Il est difficile d'imaginer cela maintenant, mais à mesure que le réseau se remplit de produits créés par des robots, les gens cesseront de créer et de consommer du contenu sur Internet. Internet deviendra mort pour eux.

À propos, Toby Walsh, professeur d'intelligence artificielle à l'Université de Nouvelle-Galles du Sud, estime que cela compliquera également la vie des créateurs de l'IA elle-même. "Aujourd'hui, l'intelligence artificielle fonctionne parce qu'elle apprend grâce à la sueur et à l'ingéniosité humaines", a déclaré le scientifique. "Si l'IA générative de deuxième génération est formée à partir des résultats de la première génération, la qualité diminuera considérablement".

En mai de cette année, les chercheurs d'Oxford ont souligné que l'apprentissage de l'IA à partir de l'expérience d'autres IA conduit à la dégradation de l'"élève" et finalement à l'échec. De plus, le contenu créé par l'IA étouffe progressivement l'humain. En conséquence, Microsoft, Google et d'autres voient diminuer le niveau de données d'origine pour améliorer leurs modèles.

Internet ne sera jamais le même.

Et pas seulement internet. Les analystes de Goldman Sachs estiment que :

• D'ici 2025, les investissements dans l'IA à travers le monde pourraient atteindre 200 milliards de dollars
• Au cours de la décennie, l'IA augmentera la productivité mondiale du travail de plus d'un point de pourcentage par an
• Les investissements dans l'IA pourraient avoir un impact plus important sur le PIB des États-Unis que l'invention de l'électricité ou des ordinateurs personnels

"Nos économistes prévoient que les investissements dans l'IA seront principalement liés aux investissements dans l'équipement pour l'apprentissage des modèles d'IA et l'exécution des requêtes d'IA, ainsi qu'à une augmentation des dépenses liées aux logiciels prenant en charge l'IA", ont déclaré chez Goldman Sachs.

Suite à venir...

Début du sujet

ChatGPT est-il vraiment effrayant et quel est le lien avec la pomme et le ver?

ChatGPT est-il vraiment effrayant... Régulateur, client ou investisseur ? (partie 2)

ChatGPT est-il vraiment effrayant... Plus de questions que de réponses pour l'instant (partie 3)

ChatGPT est-il vraiment effrayant... Quiconque peut-il devenir sorcier du commerce avec l'IA ? (partie 4)