Si vous recherchez “SCP-565” sur Google. saisie de caractères Dans le monde collectif de fanfictions connu sous le nom de Fondation SCP, les aperçus de l’IA de la société décrivent des objets inexistants comme entièrement réels sans même reconnaître qu’il s’agit de fiction d’horreur en ligne.
“SCP-565 (prononcé “Tissue Head”) est une tête humaine ambulatoire avec un comportement semblable à celui d’un crabe corail.Carpilius convexe)”, brouille les caractéristiques de l’intelligence artificielle. “Elle se déplace sur le fond de l’océan à l’aide de pattes et de tentacules en utilisant des tissus cérébraux exposés et non exposés. L’ADN et les dossiers dentaires relient l’anomalie à un Edward Belltram décédé.”
Un résumé de la recherche générée par l’IA ajoute que l’organisation “utilise du tissu nerveux dépassant d’une grande blessure à l’arrière du crâne” et “a été observée en train de récupérer des poissons morts et de vivre aux côtés de colonies normales de crabes sur les récifs”.
Bien sûr, il n’y a pas de tête de défunt qui se balance comme un crabe corail dans l’océan. La tête d’Ed est un “défaut” fictif. beaucoup Un « objet, entité, phénomène » fictif imaginé par les membres de la base de fans de la Fondation SCP.
Comme l’ont mentionné les scientifiques, la Fondation SCP est une organisation non gouvernementale qui collecte et préserve des découvertes extraordinaires. Du terrifiant au fantaisiste, les auteurs cataloguent ces phénomènes fictifs sous la forme de faux récits, études, documents de recherche et documents, tous indexés dans de vastes archives.
Le mot clé est bien sûr « faux ». L’AI Review de Google a la mauvaise habitude de donner l’impression que les entités SCP sont des choses, des événements et des entités réels, et de déformer de manière flagrante ces études et vidéos fictives comme des preuves réelles d’événements effrayants ou surnaturels.
Cela est évident dans une recherche Google du terme “SCP-565”, le code SCP d’Ed’s Head. Dans l’examen de l’IA qui en a résulté, aucun moteur de recherche majeur basé sur un modèle de langage ne reconnaît la tête d’Ed comme une projection ; Il ne mentionne jamais de fan-fiction, ni même le mot « intelligence ».
Au lieu de cela, il présente la tête d’Ed comme une véritable découverte des profondeurs de la mer, pointant vers le dossier « officiel » pour des recherches plus approfondies.
“La médecine légale a confirmé que SCP-565 appartenait à Edward Beltrame, décédé deux ans avant la détection de l’anomalie”, indique le résumé d’AI. “Il est conservé en sécurité dans l’enceinte aquatique de la Fondation SCP et est constamment surveillé pour détecter toute détérioration mentale et physique.”
L’outil de recherche suggère que si nous “lisons l’intégralité du fichier de la Fondation SCP”, nous pouvons “examiner la documentation officielle de SCP-565”.
« Souhaitez-vous enquêter sur des entités similaires présentant des anomalies aquatiques ou biologiques, ou avez-vous des enregistrements de tests spécifiques de votre dossier que vous aimeriez examiner ? L’IA continue. “Dites-moi comment continuer ma recherche !” Une autre recherche similaire a pointé vers un dessin animé sur YouTube représentant SCP-565, décrivant le clip comme “une animation rapide et haute résolution de la façon dont la tête bouge et se comporte”.
Il s’agit d’un excellent exemple de fiction trompeuse avec des informations factuelles de LLM – véritablement l’un des mondes fictifs les plus étendus et les plus populaires du Web.
Après les internautes, nous avons découvert pour la première fois le comportement inhabituel de l’intelligence artificielle réseaux sociaux détecté Recherche Google “SCP-426» – un grille-pain fictif qui amène quiconque parle d’un grille-pain à y faire référence à la première personne – la fonction IA renvoie une critique de l’IA discutant d’une entité mystérieuse. à la première personnecomme si l’intelligence artificielle elle-même avait été affectée par l’influence surnaturelle du grille-pain.
“Bonjour, je suis SCP-426, un simple torréfacteur rétro à quatre tranches qui m’adresse au hasard directement à toute personne qui me mentionne”, lit-on dans la description de l’IA. “Une exposition prolongée (plus de deux mois) amène les gens à croire que c’est moi. Je suis protégé en toute sécurité dans une cellule fermée, sans fenêtre.”
La Fondation SCP a ensuite expliqué sa détention de l’appareil et a répertorié des histoires d’horreur fictives sur les victimes comme s’il s’agissait d’événements réels.
“Si quelqu’un est exposé à moi pendant plus de deux mois, il commence à se considérer comme un grille-pain”, lit-on dans le résumé d’IA. “Dans le passé, cela a conduit les personnes concernées à essayer d’imiter mes actions, ce qui a souvent entraîné des blessures ou la mort (par exemple, essayer d’utiliser l’électricité ou se gaver de 10 kg de pain).”
Plus nous cherchions, plus nous trouvions d’exemples : jusqu’à présent, Futurisme Une étude de Google a révélé au moins 20 cas d’entrées fictives de SCP présentées sous forme de documents.
Parmi les animaux que Google décrit comme réels figurent “SCP-922Un événement modifiant la réalité se déroulant dans une université réformée appelée « Réalité alternative » ; “SCP-704“, une route mortelle et altérant l’esprit connue sous le nom de ” Courbe dangereuse ” ; et “SCP-779“, dit que le parasite ressemblant à une guêpe utilise un poison hallucinogène pour faire croire aux gens qu’ils sont des fées ressemblant à des humains.
“L’anomalie découverte en août 2009 altère la mémoire, falsifie les entrées de registre, crée des individus en double et insère même occasionnellement du personnel de la Fondation dans des bases de données existantes”, note l’analyse de l’IA pour SCP-922. “Lisez l’entrée complète de la Fondation SCP pour le journal complet des fichiers et la documentation.”
Dans certains cas, notre analyse a montré que les critiques d’IA font référence à « l’esprit » d’un phénomène ou à « l’univers » d’un SCP, deux termes qui font référence au vaste réseau de fanfictions derrière notre requête. Mais peu de recherches ont réellement identifié ces articles comme étant faux ou fabriqués.
Nous avons contacté Google pour lui demander pourquoi l’univers SCP semble si compliqué lorsque l’on examine la présentation de l’IA, mais nous n’avons pas immédiatement reçu de réponse.
La personne moyenne qui recherche les entités SCP sur Google est probablement un fan qui sait déjà qu’elles ne sont pas réelles. Mais ce n’est pas une hypothèse sûre pour tous les utilisateurs ; Certains peuvent être des enfants qui trouvent des références à des histoires effrayantes sur les réseaux sociaux et tentent de déterminer si elles sont réelles, ou des adultes qui ne savent pas comment gérer la réalité des histoires d’horreur.
Inutile de dire que Google leur donne une mauvaise réputation. Les utilisateurs utilisent désormais l’interface de recherche comme une source fiable d’informations sur des termes inconnus et peut-être frustrants, plutôt que de créer un lien vers un contexte fiable tel que la Fondation SCP. clause de non-responsabilité concernant votre réputation Google leur dit que ces vidéos sont des œuvres de fiction et qu’il s’agit de fausses organisations réelles et effrayantes.
En d’autres termes, l’incapacité de Google à distinguer de manière fiable entre la réalité et la fiction est un défaut technique que nous avons constaté lors du déploiement d’une technologie d’IA immature auprès de milliards d’utilisateurs. fini et fini et encore et encore.
Le géant de la recherche ne montre aucun signe de ralentissement. Au lieu de cela, il Plans récemment annoncés Au lieu de lier l’intégralité de la page de recherche à l’utilisateur, remplacez-la par une interface basée sur l’IA conçue pour résumer les informations.
En savoir plus sur l’examen de l’IA : L’analyse a révélé que l’étude de Google sur l’IA diffuse plus de désinformations que jamais dans l’histoire de la civilisation humaine.