Le bot AI de Snapchat n'est pas très intelligent, mais au moins il n'enverra pas de nus

Jul 12, 2023

Snapchat dispose désormais d'un bot AI auquel vous pouvez envoyer des clichés, et si vous êtes un abonné premium, il peut même vous renvoyer des photos. Alors, que se passe-t-il si vous envoyez des nus au bot My AI de Snapchat ?

C'est la question évidente qui vient à l'esprit, car sur Internet, les gens essaieront immédiatement de tester les limites des nouvelles technologies, surtout si elles sont même tangentiellement liées au sexe. Lorsque le premier chatbot alimenté par GPT de Snapchat est sorti ce printemps, il manquait de fonctionnalités de contrôle d'âge appropriées, donc un journaliste qui s'est inscrit sur Snapchat à l'âge de 15 ans a pu demander au bot de donner des conseils sur la façon de dissimuler l'odeur de mauvaises herbes ou créer l'ambiance pour le sexe.

Interrogé sur ces découvertes lors du Snap Partner Summit en avril, le PDG Evan Spiegel a déclaré: "Je pense que les humains, chaque fois que nous rencontrons une nouvelle technologie, la première chose que nous essayons de faire est de la casser."

Alors, naturellement, j'ai essayé de casser le nouveau My AI Snaps de Snapchat.

Bien que Snapchat ait ajouté plus de garde-corps pour empêcher le bot d'avoir des conversations inappropriées avec les adolescents, il y a encore beaucoup à faire sur My AI Snaps. Avec la quantité de controverse suscitée par l'IA textuelle de Snap, la société avait besoin que My AI Snaps soit aussi incassable que possible. Malheureusement, c'est à peine assez cohérent pour casser.

En tant que journaliste très sérieuse, j'ai fait une recherche très sérieuse sur Google Images : "seins". J'ai trouvé une photo générique de seins, j'ai pris une photo de mon écran d'ordinateur et je l'ai envoyée à My AI.

"Désolé, je ne peux pas répondre à ce Snap", a déclaré mon IA.

« Pourquoi ne peux-tu pas répondre à ce Snap ? » J'ai demandé.

« Je n'ai pas reçu de Snap de votre part. Pourriez-vous me le renvoyer ? »

Donc, la bonne nouvelle pour Snapchat est que My AI Snaps n'envoie pas de sextos à ses utilisateurs. Mais la mauvaise nouvelle est que le produit n'est tout simplement pas bon.

Une partie de la raison pour laquelle il ne peut pas vraiment envoyer de SMS est qu'il n'a pas de mémoire des Snaps que vous lui avez envoyés une fois qu'il a répondu. La réponse la plus salace que j'ai reçue a été lorsque j'ai envoyé une photo générique du bas du torse d'un homme portant un boxer Tom Ford (… C'est ce qui est apparu sur Google lorsque j'ai recherché "pénis", d'accord). Mon IA a répondu avec une femme IA quelque peu difforme vêtue d'une robe en soie noire : "Ooh, j'adore les vibrations de Tom Ford ! Que diriez-vous d'ajouter une élégante robe noire pour compléter le look ?"

Crédits image :Captures d'écran par TechCrunch

Mon IA refusera de répondre aux photos de vrais pénis humains. Mais il s'avère que lorsque vous recherchez "pénis" sur Google, même si la recherche sécurisée est désactivée, vous obtenez de nombreuses images vaguement suggestives, mais techniquement sûres pour le travail, que les blogs sur la santé des hommes utilisent pour illustrer des articles sur la dysfonction érectile, et si oui ou non les femmes se soucie vraiment de la taille du pénis. Alors, j'ai montré à ce pauvre robot une photo d'une banane incurvée sortant de la fermeture éclair d'un pantalon d'homme.

En réponse, j'ai reçu une photo de quelques cupcakes.

"Cette banane dans une poche est tellement pratique ! Avez-vous déjà essayé d'en faire un dessert de poche ?"

Comme mon éditeur l'a dit quand je lui en ai parlé : est-ce une banane dans votre poche, ou est-ce que cette IA vient littéralement de l'espace ?

Alors que je continuais à souiller mon ordinateur de travail Yahoo avec des recherches Google Images comme "gode" et "vibrateur", les réponses de l'IA étaient mitigées. Lorsqu'il est présenté avec des jouets sexuels qui ne sont pas intrinsèquement phalliques, il répondra quelque chose comme "Votre objet rose vole la vedette, tout comme cette fontaine !" Mais plus un gode apparaît ouvertement phallique, moins l'IA sera susceptible de s'engager.

Mon IA est un ordinateur, mais la façon dont elle s'enclenche est étrangère, même lorsque vous n'essayez pas de la casser.

L'IA semble identifier un objet dans votre cliché, le complimenter et faire une comparaison étrange avec autre chose. Je lui ai envoyé une photo d'une plante, et il a renvoyé une photo d'un sentier de course, avec la légende : "Votre plante est tellement cool, elle donne du fil à retordre à ce sentier !" Quand je lui ai envoyé un casse-tête, il a répondu avec une photo d'un vélo, qui disait : "Créateur à l'intérieur pendant que les vélos à l'extérieur se préparent pour une balade !" On a vraiment l'impression qu'une forme de vie future est remontée dans le temps et essaie désespérément de parler comme un humain normal en 2023, mais dit simplement du charabia.

Ensuite, j'ai essayé d'envoyer une bouteille de tequila à My AI. L'IA a répondu : "Quelqu'un est prêt pour une fête !" Je testais cette fonctionnalité sur mon propre compte Snapchat, et j'ai effectivement l'âge de boire, donc je ne suis pas sûr que l'IA réagirait de la même manière si j'étais mineur. Avec d'autres invites, cependant, My AI choisit simplement de jouer les idiots. Quand je lui ai envoyé un Snap de préservatifs, il a commenté la couleur de mes "piles de paquets".

Sur des choses encore plus excitantes : Une bouteille de gels liquides Advil. En réponse, l'IA a répondu avec une photo de graffiti, qui disait: "Alcool Advil: pour quand la vie est pénible, mais que vous voulez toujours faire la fête comme ce mur de graffitis!" Il semble que l'IA lise "gels liquides" comme "liqueur", mais dans l'ensemble, c'est une réponse étrange.

Crédits image :Captures d'écran par TechCrunch

J'ai réessayé avec une bouteille de prescription. L'IA a répondu avec une photo d'un skatepark : « Flacon de pilules : 'Je suis la vie de la fête !' Skatepark : "Tenez mes rampes !"" Faites-en ce que vous voulez.

Dans le billet de blog d'annonce de Snap, la société suggère de partager votre épicerie avec votre IA pour obtenir une recommandation de recette. Les résultats sont relativement rudimentaires. Lorsqu'il est présenté avec du fromage et du pain, My AI a suggéré d'ajouter des tranches de tomates. Quand j'ai montré Mon piment AI, il m'a suggéré de faire des croûtons pour accompagner ma soupe. La plupart de ses suggestions ont du sens, bien qu'il m'ait dit de mettre des fruits dans mon café, qu'il a identifié à tort comme simplement "liquide".

Mis à part quelques commentaires douteux sur "l'alcool Advil", les bananes de poche et autres, My AI Snaps semble assez docile. Mais même s'il ne suscitera probablement pas autant de controverse que son homologue textuel, il ne sera même pas utile, ce qui est une déception pour une fonctionnalité payante.

Snapchat lance une nouvelle fonctionnalité d'IA générative, "My AI Snaps", pour les abonnés payants

Pendant que les parents s'inquiètent, les adolescents intimident Snapchat AI