Ontmoet Diem, de AI-aangedreven 'Social Search Engine' bedoeld om te voelen als je vriendgroepschat

Laten we bijvoorbeeld zeggen dat u wilt weten hoeveel het kost om uw eieren te bevriezen. U zou die vraag in Diem typen, en de AI-component zou zijn bredere internetdatabase en door de dag door gebruikers gecontroleerde inhoud gebruiken om zowel een antwoord van één zin als een langere te genereren. En je zou beide ontvangen, naast alle door de gemeenschap gegenereerde berichten over het onderwerp, voor het geval je geïnteresseerd was om er doorheen te bladeren.

Op deze manier combineert Diem het gemak van AI met de personalisatie van kennis van echte vrouwen en niet-binaire mensen-zeer soort anekdotische informatie en levenservaringen en geroddel vaak gedepriate door zoekmachines vanwege vooringenomenheid (meer daarover hieronder). Het is de combinatie, zegt Bates, die de informatie over DIEM zowel nuttig als direct van toepassing maakt op mensen uit deze gemeenschappen. "De manier waarop we altijd hebben gedacht om te bouwen is: 'Hoe kunnen we een ruimte creëren waar u zou kunnen zoeken naar de collectieve inzichten van uw gemeenschappen?'" ze zegt. “Als je collectief kunt bouwen met je gemeenschap, vormt het de stem, gegevens en ervaring, en het voelt zich anders aan.”

De kwestie van gendervooroordeel op zoekmachines en AI -platforms

Omdat gendervooroordeel in de samenleving als geheel heerst, bestaat het ook in algoritmen voor het zoeken naar zoekopdrachten en voedt het de gap van de genderinformatiekloof. Het is dezelfde kloof waarmee Bates geconfronteerd werd wanneer hij in 2018 probeerde van toepasselijke, herkenbare informatie te vinden over de ochtend-afterpil.

Overweeg als bewijs de resultaten van een onderzoek uit 2022, waarvoor onderzoekers wilden bepalen of Google Images zoekt in landen met hogere scores voor genderkwaliteit (beoordeeld met de Global Gender Gap Index) zou ook een gendervooroordeel aantonen. Om dit te doen, voerden ze een zoektocht uit naar het woord "persoon" in de lokale taal van 37 landen in hun eerste studie en 52 landen in hun tweede. In alle gevallen onthulden de Google -zoekresultaten in landen met grotere niveaus van maatschappelijke genderongelijkheid ook een grotere geslachtsverschillen (wat betekent dat een hoger percentage van de eerste 100 beeldresultaten een man versus een vrouw toonde).

Er zijn ook nieuwe AI -bots gevonden om gendervooroordeel te bestendigen. Bijvoorbeeld, Bloomberg meldde dat een computationele wetenschapper chatgpt heeft gekregen om code uit te spitsen die zei dat alleen Aziatische of blanke mannen goede wetenschappers zouden maken; De CEO van het bedrijf reageerde op de wetenschapper op Twitter en moedigde gebruikers aan om dergelijke antwoorden te "neerslachten" om het programma te helpen leren niet te propageren.

Toen ik Chatgpt een soortgelijke vraag stelde, zei het dat het niet gepast is om iemands geslacht of race te gebruiken om te bepalen of ze in een beroep zouden uitblinken. Maar hoewel het lijkt alsof de AI momenteel leert om minder bevooroordeeld te zijn, vertrouwt het nog steeds op objectieve, medelevende gebruikers om het op die manier te trainen. (Terwijl de AI van Diem grotendeels is opgeleid in de gecreëerde informatie door en voor Vrouwen en niet-binaire mensen, en is dus niet onderworpen aan dezelfde kwestie van anti-vrouwen vooringenomenheid van de sprong.))

"AI is slechts zo goed als de gegevens waarop het is getraind, en omdat alle mensen vooringenomenheid en vooroordeel hebben, wanneer hun gegevens worden gebruikt, wordt dat vooringenomenheid en vooroordelen een deel van de AI."-Nina Vasan, MD, psychiater

Deze bevindingen illustreren hoe de vooroordelen die we onderhouden als mensen van nature overbrengen naar de producten die we maken en de datasets waaraan we bijdragen. "AI is slechts zo goed als de gegevens waarop het is getraind, en omdat alle mensen vooringenomenheid en vooroordeel hebben, wanneer hun gegevens worden gebruikt, wordt vooringenomenheid en vooroordelen een deel van de AI", zegt psychiater Nina Vasan, MD, Chief Medical Officer van Digital Therapy Platform Real en oprichter en uitvoerend directeur van Brainstorm: The Stanford Lab for Mental Health Innovation.

Hoe Diem wil een leuke, informatieve zoekmachine worden, specifiek voor vrouwen en niet-binaire mensen

Gezien de beoogde demografische gebruikers van Diem, zegt Bates dat ze denkt aan de informatie die op het platform wordt gedeeld en door de chatbot wordt gegenereerd als antwoorden op de vragen die mensen hebben wanneer ze in de "vriendfase" van hun leven zijn; Mensen absorberen veel informatie van vrienden wanneer ze midden twintig en begin jaren dertig zijn, zegt ze. Het idee met Diem is dat je perspectieven verkrijgt van verschillende mensen van je leeftijd en genderidentiteit met wie je anders misschien niet anders hebt communiceren, en dat collectief begrip komt iedereen op het platform voor.

Omdat Diem's ​​AI rechtstreeks met informatie wordt gevoed van mensen van deze demografie, is het een representatief platform per ontwerp. Vanaf nu hebben duizenden vrouwen en niet-binaire mensen vragen gesteld en antwoorden gedeeld over DIEM over onderwerpen die voor hen relevant zijn, vooral in de categorieën van persoonlijke gezondheid, geld en relaties--waar Diem's ​​AI het best is getraind is.

Hoewel het nog steeds aan het leren is, haalt het uit een bredere gepatenteerde dataset (vergelijkbaar met die welke chatgpt voorziet) om informatie te vinden over vragen die mensen in de gemeenschap nog niet hebben besproken. Een punt van differentiatie is echter dat het nog steeds een "samengevatte dag-antwoord" voor deze vragen uitspint, zegt Bates, met behulp van de werkelijke Diem Convos om de stijl en toon van het antwoord te informeren.

Omdat Diem echter nog steeds een AI is die afhankelijk is van zowel door gebruikers gegenereerde inhoud en die bredere gegevensset, is het zeker niet immuun naar de problemen waarmee andere zoekmachines en AI -chatbots worden geconfronteerd, waaronder vals, misleidend en, ja, zelfs bevooroordeelde inhoud. Op zijn beurt is er een knop in de app en op de desktopversie om misbruik te melden, en het platform heeft een reeks gemeenschapsrichtlijnen gepubliceerd die dingen als "vriendelijkheid en nieuwsgierigheid" en "empathische betrokkenheid" bevorderen-om de veiligheid van de gebruikers te waarborgen en de kwaliteit van de informatie.

Diem lanceert in een tijd waarin overheidsfunctionarissen in zowel de Verenigde Staten als de Europese Unie manieren onderzoeken om AI te reguleren, grotendeels vanwege de bovengenoemde zorgen. In de u.S. In het bijzonder heeft het kantoor van president Joe Biden in oktober een concept van een AI Bill of Rights vrijgegeven, een tweeledige groep u.S. Senatoren onder leiding van senator Chuck Schumer werken aan wetgeving om vangrails in de industrie op te richten, en vier overheidsinstanties hebben vorige maand een gezamenlijke verklaring vrijgegeven waarin de bevoegdheden worden uiteengezet om de industrie robuuster te reguleren, met name tegen discriminatie die voortvloeit uit bias.

Maar Bates wordt niet afgeschrikt door dit landschap binnen te gaan. Ze voorspelt dat er een "interessante verschuiving in de toekomst van internet" zal zijn, waar mensen informatie zullen zoeken die specifiek is voor waar ze in hun leven zijn. In plaats van Google te vragen om datingadvies bijvoorbeeld, hoopt ze dat je snel naar een platform als Diem gaat, dat je antwoorden geeft van mensen met een vergelijkbare ervaring voor jou.

"Op dit moment bestaan ​​we in monopolies, en dat heeft invloed op hoe we internet gebruiken en wat we van platforms verwachten", zegt Bates. Die monopolies weerspiegelen immers vaak vooringenomenheid ten gunste van mannen. "Ik denk dat de toekomst van internet meer niche -ervaringen zal bieden", zegt ze. En wie een niche zegt, is noodzakelijkerwijs klein? Zoals Bates opmerkt, vormen vrouwen-identificerende mensen een bijna gelijk deel van de mensen op de planeet. En nu wacht een gigantische groepskat op hun input.

De wellness-intel die je nodig hebt, zonder de BS die je je vandaag niet aanmeldt om het nieuwste (en beste) welzijnsnieuws en door deskundige goedgekeurde tips te hebben die rechtstreeks in je inbox worden geleverd.