L'IA est un gâchis et Apple est là pour y mettre de l'ordre

Le moment est venu ! Oui, cette semaine le Macalope va répondre à toutes les questions sur l'IA ! Toutes ! Préparez-vous à être éblouis et informés !

(Avis de non-responsabilité : il ne s'agit pas d'une garantie. Il ne sera pas répondu à toutes les questions. L'éblouissement ne se produira que dans un petit nombre de cas. L'information est éphémère. Nul là où c'est interdit).

Si vous ne pensez pas que l'IA est une technologie défaillante, rappelez-vous qu'en ce moment même, une IA est en train de récolter cette même colonne pour la régurgiter à quelqu'un de manière autoritaire en tant que fait. Si cela ne vous convainc pas qu'il ne faut pas lui faire confiance, rien ne le fera.

Ou peut-être que ceci le fera : "La perplexité est une machine à conneries".

La bien nommée Perplexity est une autre startup d'IA, qui ignore les paramètres spécifiques des sites web qui demandent à ne pas être scrappés et qui utilise ensuite ces données pour fournir des réponses inventées à des questions. Le Macalope n'est pas juriste, mais certaines de ces réponses peuvent être diffamatoires.

Dans un cas, le texte généré prétendait faussement que Wired avait rapporté qu'un officier de police spécifique en Californie avait commis un crime.

Wired, 19 juin 2024

Possiblement diffamatoire à l'égard de l'officier et Câblé ! C'est un coup double !

Investisseur VC : "Que fait votre système ?"

Startup : "C'est une machine à diffamation perpétuelle".

Investisseur VC : "Voici un chèque en blanc."

Partout sur le web, les propriétaires de sites s'empressent d'ajouter à leur liste robots.txt divers gadgets d'analyse de l'intelligence artificielle, dans un vain effort pour éviter que leur contenu ne soit utilisé sans leur consentement. Plusieurs entreprises spécialisées dans l'IA ne tiennent tout simplement pas compte de ces paramètres et s'emparent quand même des informations. Les gens ont dit, eh bien, ils font simplement la même chose qu'Archive.org. Archive.org ignore le fichier robots.txt dans le but de tout indexer. Comment pouvez-vous être d'accord avec cela et ne pas être d'accord avec ce que font les entreprises de LLM ?

Parce qu'il s'agit de produits fondamentalement différents.

"Je veux fournir un service gratuit qui bénéficiera à tout le monde et aidera à promouvoir la transparence sur Internet.

Fan-tastique. Vous pouvez continuer.

"Je veux devenir milliardaire en vendant l'équivalent moderne d'une Magic 8 Ball et je compte le faire en utilisant votre travail pour alimenter mon accumulation de richesses."

Euh, non.

Certains ont également dit : "Eh bien, rien de tout cela n'est illégal donc ils peuvent faire ce qu'ils veulent". Le Macalope suppose que c'est le cas, mais il va quand même détester ça. Le plagiat est-il illégal ? Non. Mais c'est toujours mal. Et on peut se faire virer à cause de ça, ce qui devrait arriver à ces IA.

Virées au soleil, de préférence.

Il est intéressant de noter que ce scraping du "web ouvert" est utilisé pour différentes choses. Dans le cas le moins flagrant, les étudiants en master de langues ont besoin d'un corpus d'écrits pour apprendre comment fonctionne la langue. Cela semble normal, car nous utilisons tous le langage. (Cela devient cependant plus flou lorsque l'on demande à une IA d'écrire dans la langue d'un écrivain particulier). d'un écrivain particulier.) Il y a aussi les modèles tels que ceux utilisés dans Image Playground d'Apple, qui doivent apprendre à dessiner. L'opinion du Macalope est assez subjective, mais pour une raison ou une autre, cela ressemble un peu plus à de la copie. Peut-être parce que nous ne sommes pas tous des artistes. Et puis, bien sûr, il y a les systèmes d'IA qui, en réponse à une question, disent "Oh, oui, j'ai lu ça quelque part. Voici une réponse qui peut être correcte ou non, et je peux ou non citer le site sur lequel je l'ai lue". C'est vraiment un problème.

Si ce spectre de comportement vous semble familier, c'est probablement parce que l'IA partage un certain ADN avec les crypto-monnaies, les NFT et la blockchain en ce sens qu'ils sont tous à la mode, généralement vantés par des personnes avec lesquelles vous ne voudriez pas être coincé dans un ascenseur et, par une étrange coïncidence, ils font tous grimper le cours de l'action de Nvidia et les températures moyennes dans le monde entier. Le Macalope ne se considère pas comme un adepte des théories du complot, mais il ne serait pas surpris de découvrir dans quelques années que Nvidia a mené une puissante campagne d'opérations psychologiques en imaginant des technologies qui nécessitent l'intervention de ses conseils d'administration, puis en convainquant les sociétés de capital-risque d'investir dans ces technologies.

C'est tout dire.

Idéalement, Apple ne devrait pas s'associer à ces entreprises d'IA, mais le marché l'a exigé et, au moins, la société adopte une approche indépendante lorsqu'elle travaille avec elles. Il est triste de constater qu'il suffit à Apple de respecter les paramètres robots.txt des sites pour faire partie des entreprises d'IA les plus éthiques. Mais il ne suffit pas à l'entreprise de dire que vous pouvez vous désinscrire maintenant, alors qu'elle a déjà profité du travail acharné des gens. Apple ne devrait pas suivre les pratiques "standard de l'industrie". Elle devrait être meilleure que l'industrie.