Découvrez Diem, un moteur de recherche alimenté par l’IA pour les femmes

Les résultats de la recherche comprenaient beaucoup de choses que Bates n’a pas besoin (comme les effets secondaires du médicament, qui sont indiqués sur l’emballage) et très peu d’informations dont elle avait besoin : comment les gens se sentaient-ils réellement lorsqu’ils le prenaient et si ceux qui avaient ressenti des effets secondaires à cause de la pilule contraceptive ( comme elle avait) avait des problèmes avec elle. Alors, elle s’est instinctivement tournée vers les femmes de sa vie, en personne et en ligne, pour obtenir de l’aide. L’ampleur de la réponse l’a impressionnée : les gens sont passés à l’action, offrant leurs expériences de première main et leurs conseils à la pelle. Ces réponses ont permis à Bates de se sentir beaucoup plus à l’aise pour acheter et prendre une contraception d’urgence que lorsqu’elle n’était armée que des résultats de Google.

Aujourd’hui, Bates intègre les avantages uniques du crowdsourcing social dans le moteur de recherche qu’elle aurait aimé avoir à l’époque, alimenté par de très nombreux amis. Entrer: Diem, le « moteur de recherche social » qui s’appuie sur les connaissances collectives des femmes et des personnes non binaires, ainsi que sur l’intelligence artificielle (IA), pour créer un centre de connaissances convivial et informatif. Le co-fondateur de Bates et Diem, Diya Singh, a lancé Diem en version bêta publique en octobre 2021, et après avoir affiné grâce à des tests bêta avec des milliers d’utilisateurs, ils viennent de lancer le produit final.

Comment Diem associe l’IA au contenu généré par la communauté pour offrir des informations précises et applicables

Conçu pour les personnes s’identifiant aux femmes et non binaires dans la vingtaine au début de la trentaine, Diem vise à prendre toutes les connaissances, la sagesse et l’humour relatable qui vivent dans tant de discussions de groupe individuelles, à les organiser en un seul endroit facilement consultable, et suralimentez cette base de données avec l’IA. Le but est de retourner des réponses simples aux questions que les gens posent.

Pensez à Diem comme un mélange de Quora, Reddit et ChatGPT : les utilisateurs peuvent poser leurs questions à la communauté et répondre aux questions des autres, et ils sont encouragés à interagir pour apporter des réponses aussi détaillées, amusantes, personnelles et perspicaces que possible.

Pensez à Diem comme un mélange de Quora, Reddit et ChatGPT : les utilisateurs peuvent poser leurs questions à la communauté et répondre aux questions des autres, et ils sont encouragés à interagir pour apporter des réponses aussi détaillées, amusantes, personnelles et perspicaces que possible. Dans le même temps, le composant IA collecte des données à partir de ces interactions entre les utilisateurs de Diem, ainsi que sur Internet au sens large, et les utilise toutes pour proposer des réponses complètes mais extrêmement pertinentes aux questions.

Histoires liées

Par exemple, disons que vous voulez savoir combien coûte la congélation de vos œufs. Vous taperiez cette question dans Diem, et le composant AI utiliserait sa base de données Internet plus large et le contenu fourni par les utilisateurs de Diem pour générer à la fois une réponse en une phrase et une plus longue. Et vous recevrez les deux, ainsi que tous les messages générés par la communauté sur le sujet, au cas où vous seriez intéressé à les faire défiler.

De cette façon, Diem combine la facilité de l’IA avec la personnalisation des connaissances de vraies femmes et de personnes non binaires – le genre même d’informations anecdotiques et d’expériences de vie et potins souvent dépriorisé par les moteurs de recherche en raison de biais (plus de détails ci-dessous). C’est la combinaison, dit Bates, qui rend les informations sur Diem à la fois utiles et directement applicables aux personnes de ces communautés. «La façon dont nous avons toujours pensé à la construction est la suivante:« Comment pouvons-nous créer un espace où vous pourriez rechercher les idées collectives de vos communautés? », dit-elle. « Si vous pouvez construire collectivement avec votre communauté, cela façonne la voix, les données et l’expérience, et cela finit par se sentir différent. »

La question des préjugés sexistes sur les moteurs de recherche et les plateformes d’IA

Parce que les préjugés sexistes sont répandus dans la société dans son ensemble, ils existent également dans les algorithmes des moteurs de recherche Internet et alimentent le fossé des informations sur le genre. C’est le même écart auquel Bates a été confronté lorsqu’il a essayé de trouver des informations applicables et pertinentes sur la pilule du lendemain en 2018.

Comme preuve, considérons le résultats d’une étude de 2022, pour lequel les chercheurs ont cherché à déterminer si les recherches Google Images dans les pays présentant des scores d’inégalité entre les sexes plus élevés (évalués avec l’indice mondial de l’écart entre les sexes) démontreraient également un préjugé sexiste. Pour ce faire, ils ont effectué une recherche du mot « personne » dans la langue locale de 37 pays dans leur première étude et de 52 pays dans leur seconde. Dans tous les cas, les résultats de la recherche Google dans les pays présentant des niveaux plus élevés d’inégalité sociale entre les sexes ont également révélé une plus grande disparité entre les sexes (ce qui signifie qu’un pourcentage plus élevé des 100 premiers résultats d’image montrait un homme par rapport à une femme).

De nouveaux robots IA se sont également avérés perpétuer les préjugés sexistes. Par exemple, Bloomberg signalé qu’un informaticien a demandé à ChatGPT de cracher un code disant que seuls les hommes asiatiques ou blancs feraient de bons scientifiques ; Le PDG de l’entreprise a répondu au scientifique sur Twitter, encourageant les utilisateurs à « rejeter » ces réponses afin d’aider le programme à apprendre à ne pas propager les préjugés.

Lorsque j’ai posé une question similaire à ChatGPT, il a déclaré qu’il n’était pas approprié d’utiliser le sexe ou la race d’une personne pour déterminer si elle excellerait dans une profession. Mais s’il semble que l’IA apprend actuellement à être moins biaisée, elle s’appuie toujours sur des utilisateurs objectifs et compatissants pour l’entraîner à être ainsi. (Alors que l’IA de Diem est en grande partie entraînée sur les informations créées par et pour les femmes et les personnes non binaires, et n’est donc pas sujet au même problème de préjugé anti-femmes dès le saut.)

« L’IA est seulement aussi bonne que les données sur lesquelles elle est formée, et parce que tous les humains ont des préjugés et des préjugés, lorsque leurs données sont utilisées, ces préjugés et préjugés deviennent une partie de l’IA. » —Nina Vasan, MD, psychiatre

Ces résultats illustrent comment les biais que nous maintenons en tant que personnes se transfèrent naturellement aux produits que nous créons et aux ensembles de données auxquels nous contribuons. « L’IA est seulement aussi bonne que les données sur lesquelles elle est formée, et parce que tous les humains ont des préjugés et des préjugés, lorsque leurs données sont utilisées, ces préjugés et préjugés deviennent une partie de l’IA », déclare le psychiatre Nina Vasan, M.D.médecin-chef de la plateforme de thérapie numérique Réel et fondateur et directeur général de Remue-méninges : le laboratoire de Stanford pour l’innovation en santé mentale.

Comment Diem vise à devenir un moteur de recherche amusant et informatif spécifiquement pour les femmes et les personnes non binaires

Compte tenu de la démographie des utilisateurs visés par Diem, Bates dit qu’elle considère les informations partagées sur la plate-forme et générées par le chatbot comme des réponses aux questions que les gens se posent lorsqu’ils sont au « stade ami » de leur vie ; les gens absorbent beaucoup d’informations d’amis lorsqu’ils sont dans la mi-vingtaine et au début de la trentaine, dit-elle. L’idée avec Diem est que vous obtenez les perspectives d’une variété de personnes de votre âge et de votre identité de genre avec lesquelles vous n’auriez peut-être pas interagi autrement, et que la compréhension collective profite à tout le monde sur la plate-forme.

Étant donné que l’IA de Diem est alimentée par des informations provenant directement des personnes de ce groupe démographique, il s’agit d’une plate-forme représentative de par sa conception. À ce jour, des milliers de femmes et de personnes non binaires ont posé des questions et partagé des réponses sur Diem sur des sujets qui les concernent, en particulier dans les catégories de la santé personnelle, de l’argent et des relations, où l’IA de Diem est la mieux formée.

Pendant qu’il est encore en train d’apprendre, il extrait d’un ensemble de données propriétaire plus large (similaire à celui qui alimente ChatGPT) pour trouver des informations sur des questions dont les membres de la communauté n’ont pas encore discuté. Un point de différenciation, cependant, est qu’il produit toujours une « réponse Diem-y résumée » à ces questions, dit Bates, en utilisant de véritables convos Diem pour informer le style et le ton de la réponse.

Cependant, étant donné que Diem est toujours une IA reposant à la fois sur le contenu généré par les utilisateurs et sur cet ensemble de données plus large, ce n’est certainement pas immunitaire aux problèmes rencontrés par d’autres moteurs de recherche et chatbots IA, y compris le contenu faux, trompeur et, oui, même biaisé. À son tour, il y a un bouton dans l’application et sur la version de bureau pour signaler les abus, et la plate-forme a publié un ensemble de Règles de la communauté—qui promeuvent des choses comme « la gentillesse et la curiosité » et « l’engagement empathique »—pour assurer la sécurité de ses utilisateurs et la qualité de l’information.

Diem est lancé à une époque où les responsables gouvernementaux des États-Unis et de l’Union européenne sont explorer les voies réglementer l’IA, en grande partie à cause des préoccupations ci-dessus. Aux États-Unis en particulier, le bureau du président Joe Biden a publié un brouillon d’une déclaration des droits de l’IA en octobre, un groupe bipartite de sénateurs américains dirigé par le sénateur Chuck Schumer est travail sur la législation pour établir des garde-fous autour de l’industrie, et quatre agences gouvernementales a publié une déclaration conjointe le mois dernier décrivant les pouvoirs qu’ils détiennent pour réglementer l’industrie plus vigoureusement, en particulier contre la discrimination résultant de préjugés.

Mais Bates n’est pas dissuadé d’entrer dans ce paysage. Elle prédit qu’il y aura un « changement intéressant dans l’avenir d’Internet », où les gens rechercheront des informations qui s’adressent spécifiquement à l’endroit où ils se trouvent dans leur vie. Plutôt que de demander à Google des conseils de rencontres, par exemple, elle espère que vous irez bientôt sur une plateforme comme Diem, qui vous donnera des réponses provenant de personnes ayant une expérience vécue similaire à la vôtre.

« En ce moment, nous existons dans des monopoles, et cela a un impact sur la façon dont nous utilisons Internet et sur ce que nous attendons des plateformes », déclare Bates. Après tout, ces monopoles reflètent souvent un parti pris en faveur des hommes. « Je pense que l’avenir d’Internet va offrir plus d’expériences de niche », dit-elle. Et qui dit qu’une niche est forcément petite ? Comme le souligne Bates, les personnes qui s’identifient aux femmes constituent un part presque égale des gens de la planète. Et maintenant, il y a une discussion de groupe géante qui attend leur contribution.