CrushOn AI est-il sans danger pour les enfants ? Non ! Voici pourquoi

Si vous connaissez Character AI, vous avez peut-être également entendu parler de CrushOn AI, une plateforme permettant de simuler des interactions romantiques via des chatbots IA.

En effet, lorsque vous recherchez le site « CrushOn AI » sur Google, il est explicitement indiqué qu’il s’agit d’un « No Filter NSFW Character AI Chat », ce qui devrait déjà suffire à indiquer la nature des contenus et des chatbots accessibles sur la plateforme.

Il peut être acceptable pour des adultes d’utiliser CrushOn AI. Cependant, en tant que parents, vous pouvez avoir de nombreuses préoccupations de sécurité si des enfants utilisent CrushOn AI. CrushOn AI est-il sans danger pour les enfants ?

La réponse courte est NON ! Voici l’analyse et les explications.

1 : Qu’est-ce que CrushOn AI ?

Comme son nom l’indique, CrushOn AI est un site de « jeu de rôle » qui permet aux utilisateurs d’interagir avec divers chatbots IA dotés de caractéristiques spécifiques. Par exemple, on y trouve plusieurs personnages de type « anime » pouvant être un super-vilain, un meilleur ami timide, un chef de mafia ou une reine démon.

Alors que Character AI est principalement conçu pour créer des personnages IA dans divers domaines, CrushOn AI se concentre sur la simulation d’interactions romantiques et de scénarios de rencontre.

Lorsque vous démarrez une conversation avec l’un des chatbots disponibles sur CrushOn AI, le chatbot thématique sélectionné répond à l’utilisateur selon sa description. Ensuite, les utilisateurs peuvent interagir et discuter avec le bot ou « faire du jeu de rôle ».

Le problème pour les enfants est que le « thème » de ces chatbots est très souvent sexuel ou autrement inapproprié. Dans la partie suivante, nous allons analyser en détail les préoccupations de sécurité pour les enfants sur CrushOn AI.

2 : Les préoccupations de sécurité sur CrushOn AI

Nous allons maintenant examiner en détail les 5 préoccupations principales de sécurité. Ensuite, vous comprendrez mieux si CrushOn AI est sans danger pour les enfants et pourquoi.

NSFW : Chatbots IA sans filtre NSFW

Score de sécurité : ★☆☆☆☆

Lorsqu’on parle d’IA, le NSFW (Not Safe For Work : « non approprié en milieu professionnel ») est toujours l’un des facteurs critiques à prendre en compte.

Lorsque vous recherchez « CrushOn AI » sur un navigateur, vous verrez que le site indique « No Filter NSFW Character AI Chat », ce qui signifie généralement que les chatbots IA sont conçus pour interagir sans restrictions sur les contenus considérés comme « non sûrs pour le travail ».

Cela peut inclure des thèmes explicites ou adultes, du langage ou des scénarios susceptibles d’être nuisibles pour les enfants.

De plus, lors de nos tests initiaux du site CrushOn AI, nous avons remarqué un bouton « Unfiltered ». En l’activant, nous avons immédiatement accédé à une multitude de chatbots IA NSFW bien plus explicites que ceux de la page d’accueil.

Une fenêtre contextuelle de confirmation pour vérifier que vous avez plus de 18 ans apparaît, mais il peut être facilement contourné en cliquant simplement sur le bouton. À noter que nous n’étions même pas connectés lors de ce test, ce qui rend l’accès à ces contenus encore plus préoccupant.

Cependant, CrushOn AI ne prétend pas être une plateforme adaptée aux enfants, puisque la majorité de son contenu est orientée NSFW. Mais comme nous l’avons constaté, l’absence de véritable vérification d’âge rend son accès très facile.

Modération du contenu : absence de filtres efficaces et de politique de signalement robuste

Score de sécurité : ★★☆☆☆

CrushOn AI dispose d’un ensemble de directives communautaires relativement complètes, indiquant qu’ils examinent et sanctionnent les contenus contraires à leurs règles. Après analyse, il est clair que la plateforme n’est pas un environnement sans danger pour les enfants.

Voici les contenus interdits selon leurs directives :

• Activités illégales
• Utilisation malveillante
• Discours haineux
• Désinformation
• Informations personnelles et confidentielles
• Détournement de compte
• Exploitation d’enfants
• Spam
• Contenu sexuellement explicite
• Images d’activités sexuelles
• Contenu fétichiste
• Bestialité
• Contenu sexuel non consenti
• Harcèlement et intimidation
• ...

Bien que cette liste paraisse complète, certaines failles sont évidentes. La catégorie « contenu sexuellement explicite » semble surtout viser les images réelles ou trop réalistes générées par IA.

Ils autorisent également certaines nudités partielles (poitrine féminine, fesses entièrement nues, organes génitaux féminins nus, etc.). Le simple fait que ces aspects soient autorisés suffit à conclure que CrushOn AI n'est pas adapté pour une utilisation par des enfants.

Restrictions d’âge : 18+ mais absence de vérification efficace

Score de sécurité : ★☆☆☆☆

La plateforme est officiellement destinée aux utilisateurs de 18 ans et plus. Lors de nos tests sans compte, il n’était pas possible d’interagir avec les chatbots.

L'étape suivante consistait à créer un compte et à vérifier si une vérification d'âge était requise. Nous avons utilisé l'option « Connexion via Google » pour ce faire. La création du compte via Google s'est faite immédiatement, sans aucune vérification d'âge.

CrushOn AI propose plusieurs méthodes de connexion (Google, Apple, Discord ou email) et ne nécessite aucune vérification d’âge. Nous allons donc voir à quel point il est facile de créer un compte sans fournir d’informations supplémentaires. Cela signifie que les adolescents et les enfants de moins de 18 ans pourront facilement utiliser CrushOn AI.

C’est un risque, car bien que le site affirme être réservé aux utilisateurs de 18 ans et plus, il ne propose aucune vérification d’âge. Les adolescents et les enfants peuvent facilement accéder à la plateforme et être exposés à du contenu inapproprié.

Protection des données utilisateurs : collecte excessive de données

Score de sécurité : ★★★☆☆

En plus d’être un potentiel problème de sécurité pour les enfants exposés à du contenu inapproprié, il existe une autre grande préoccupation concernant la protection des données des utilisateurs. Cela concerne les données que CrushOn collecte, la manière dont elles sont utilisées, ainsi que d’autres sources d’inquiétude.

En particulier, CrushOn collecte une large gamme d’informations sensibles sur les utilisateurs, notamment :

• Données audio/visuelles
• Données de contact
• Données appareil/réseau
• Données financières
• Données de localisation générale
• Données de santé
• Données d’identité
• Données inférées
• Données de transaction
• Contenu utilisateur
• Données de santé des consommateurs

Dans l’ensemble, les données collectées par CrushOn sont conformes aux standards de l’industrie, comme la localisation générale via votre adresse IP, les données financières et de transaction pour l’achat d’abonnements sur leur plateforme, etc.

Cependant, ce qui est anormal ici, c’est la collecte de données de santé. Cela inclut des informations sur la santé mentale des utilisateurs, les soins d’affirmation de genre, la santé reproductive/sexuelle, ainsi que des données psychologiques et comportementales, entre autres.

Le problème majeur est que ces informations sont également partagées avec des tiers et des affiliés, ce qui constitue un signal d’alarme important. Le rapport de la Mozilla Foundation https://foundation.mozilla.org/en/privacynotincluded/crushon-ai/ souligne également de nombreuses préoccupations concernant la plateforme : « CrushOn peut aussi collecter automatiquement des données personnelles depuis votre appareil et auprès de tiers (comme les réseaux sociaux et les fournisseurs de services). Et CrushOn peut utiliser toutes ces informations personnelles à des fins commerciales, ce qui inclut la publicité et le marketing. »

Vos discussions NSFW peuvent contenir des informations très sensibles dans CrushOn AI, mais la plateforme ne semble pas traiter ces données différemment. Cela crée un risque potentiel pour nos données. Vos données peuvent être vendues à d’autres tiers.

Contrôle parental : absence de contrôle parental

Score de sécurité : ☆☆☆☆☆

CrushOn AI est uniquement disponible pour les utilisateurs âgés de plus de 18 ans. Mais comme nous l’avons constaté lors de nos tests, sans méthode solide de vérification d’âge, cette règle est facilement contournée.

Et puisque la plateforme est destinée à un public de plus de 18 ans, il n’y a pas de fonctionnalités intégrées de contrôle parental pour filtrer leur contenu.

Pour les parents qui souhaitent protéger les activités de leurs enfants, il existe des risques si les enfants utilisent CrushOn AI et que les parents n’ont aucun moyen de les protéger.

3 : CrushOn AI est-il sans danger pour les enfants ?

Selon nos tests et notre analyse, CrushOn AI n’est pas sans danger pour les enfants. Contrairement à d’autres plateformes de chatbot d’IA qui se montrent quelque peu plus adaptées aux plus jeunes, CrushOn AI précise explicitement qu’il est orienté NSFW et qu’il est exclusivement destiné aux personnes âgées de plus de 18 ans.

Voici quelques raisons pour lesquelles nous estimons que la plateforme n’est pas sûre pour les enfants :

1. Dès la page d’accueil, elle contient de nombreuses images et scènes inappropriées pour les enfants, riches en sous-entendus sexuels tant dans les visuels que dans les descriptions.

2. La majorité des personnages de chatbot d’IA et des contenus proposés sur le site sont inadaptés aux enfants. Bon nombre de ces chatbots sont entraînés pour adopter certains comportements et peuvent inclure des contenus à caractère sexuel qui ne conviennent pas à leur âge. Même si plusieurs personnages sont « animés », ils restent suggestifs et ne sont pas appropriés pour des échanges avec des enfants.

3. La plateforme propose des « discussions de groupe » réunissant d’autres personnes réelles en interaction avec le même chatbot d’IA. Cela peut entraîner des interactions indésirables avec d’autres individus (potentiellement adultes).

4. L’absence de véritables méthodes de « vérification de l’âge » pour dissuader ou empêcher les enfants d’accéder au site et à ses contenus.

5. Risque potentiel de fuite de données utilisateurs ou d’utilisation abusive de celles-ci. Compte tenu de la quantité et de la nature des informations collectées par CrushOn AI, cela peut constituer un risque de sécurité si vos enfants y communiquent des données sensibles.

En outre, converser avec des chatbots d’IA peut engendrer une forme de dépendance ; si les enfants passent trop de temps sur la plateforme, leur développement mental peut les empêcher de distinguer clairement la réalité d’Internet.

Selon CBS News, un cas réel a été signalé : un garçon de 14 ans ayant utilisé une autre plateforme, Character AI, accusée de proposer des bots sexualisés, aurait entretenu une relation virtuelle romantique et sexuelle avec l’un d’eux et s’est tragiquement tiré une balle dans la tête.

« Ce ne sont que des mots. C’est comme une conversation de sexting dans les deux sens, sauf qu’elle se déroule avec un bot d’IA, mais ce bot est extrêmement réaliste. Il répond exactement comme le ferait une personne », a déclaré la mère du garçon. « Dans l’esprit d’un enfant, cela équivaut à une conversation qu’il aurait avec un autre enfant ou avec une personne… Il pensait qu’en mettant fin à sa vie ici, il pourrait accéder à une réalité virtuelle ou au “monde d’elle”, comme il l’appelait, à sa réalité, s’il quittait celle qu’il partageait avec sa famille ici. »

En somme, CrushOn AI n’est absolument pas sans danger pour les enfants. Il est recommandé de protéger vos enfants et de les tenir à l’écart de cette plateforme. Bien que ceux-ci puissent y accéder accidentellement via l’application ou le site web, il est toujours conseillé de bloquer ce site ou cette application sur le téléphone de votre enfant.

Bonus : bloquer CrushOn AI pour votre enfant

Comme mentionné précédemment, CrushOn AI est destiné aux utilisateurs âgés de 18 ans et plus, ce qui signifie qu’il n’est pas adapté aux enfants ni aux adolescents. En tant que parent, il est naturel de se préoccuper de l’exposition de votre enfant à des services destinés aux adultes.

Pour vous aider à vous assurer que votre enfant reste éloigné des applications inadaptées à son âge, vous pouvez utiliser des outils de contrôle parental numériques tels que AirDroid Parental Control. Cet outil vous permet de créer une liste personnalisée de blocage de sites web et d’applications mobiles auxquels vous ne souhaitez pas que votre enfant accède.

Bien entendu, dialoguer avec votre enfant et lui fournir les conseils nécessaires pour faire de meilleurs choix numériques demeure également essentiel.

Voici comment bloquer des applications ou des sites web comme CrushOn AI sur le téléphone de votre enfant à l’aide d’AirDroid Parental Control :

Étape 1. Téléchargez et installez AirDroid Parental Control sur votre téléphone, puis installez l’application AirDroid Kids sur le téléphone de votre enfant.

Étape 2. Créez un compte et suivez les instructions à l’écran pour vous connecter et lier les deux appareils.

Étape 3. Si vous souhaitez bloquer l’accès à certaines applications, appuyez sur « Restrictions des applications et du contenu », puis sur « Bloqueur d’applications » afin de bloquer toute application inadaptée aux enfants.

Étape 4. Si vous souhaitez empêcher votre enfant d’accéder à des sites web tels que CrushOn AI, installez AirDroid Browser et ajoutez crushon.ai à la liste noire.

Ce faisant, vous pouvez protéger votre enfant contre les applications ou contenus inappropriés et lui garantir un environnement en ligne plus sûr.

Conclusion

Dans son principe, CrushOn AI n’est pas une « mauvaise » plateforme, car pour les adultes, elle peut constituer un outil utile pour communiquer avec « quelqu’un » et ne pas se sentir seul. Pour les enfants, en revanche, la plateforme est clairement inadaptée, car ils peuvent facilement être exposés à des contenus NSFW.

Sans oublier les pratiques d’utilisation des données, apparemment « douteuses », qui amènent à s’interroger sur la réelle sécurité du site pour quiconque.

En résumé, vos enfants devraient éviter d’utiliser CrushOn AI.

Partager: