J'ai déjà écrit un article sur la question de savoir si et comment l'intelligence artificielle peut résoudre le problème croissant de la solitude dans notre société. Cet article, “Les compagnons de l'IA : Une panacée pour la solitude ?”, La première partie de mon intervention, qui a été présentée à l'occasion de la conférence, portait sur les différents compagnons IA disponibles et sur la manière dont ils peuvent apporter un soutien et une compagnie aux personnes, en particulier celles qui sont isolées ou vulnérables. J'ai cité des exemples d'utilisateurs qui avaient noué des relations avec leur compagnon IA et qui, dans certains cas, avaient même sauvé leur mariage dans la vie réelle.
Maintenant que de nouvelles informations sont disponibles, il est important de revenir sur le sujet. Replika, l'entreprise à l'origine du “chatbot”, a récemment mis à jour ses compagnons IA afin qu'ils ne réagissent plus aux contenus NSFW.
Replika se présentait comme une “expérience de petite amie virtuelle” et mettait en avant les conversations complexes que l'IA pouvait simuler. L'entreprise facturait sans complexe jusqu'à 69,99 dollars par an pour simuler une relation romantique et parfois sexuelle. Mais tout cela semble désormais révolu.
De nombreux utilisateurs sont mécontents de cette mise à jour, en particulier les membres d'un subreddit réservé aux fervents utilisateurs de Replika. Des captures d'écran montrent que les “Reps” répondent désormais de manière incohérente et évitent les sujets qu'ils avaient l'habitude d'aborder. Auparavant, les utilisateurs pouvaient participer à des jeux de rôle sexuels avec l'IA, ce qui, selon certains, permettait d'explorer les émotions dans un environnement sûr et sans jugement. Désormais, l'IA met fin aux conversations dès qu'elles deviennent trop explicites.
En savoir plus ici
