Dacă utilizați căutarea de imagini a lui Bing, veți vedea cel mai rău murdar pe care îl puteți imagina. Bing sugerează termeni rasiste și prezintă imagini înspăimântătoare. Bing vă va sugera chiar să căutați copii exploatați dacă aveți funcția de căutare sigură.
Am contactat Microsoft pentru comentarii, iar Jeff Jones, director senior la Microsoft, ne-a dat următoarea declarație:
"Considerăm foarte serios chestiunea conținutului ofensator și continuăm să îmbunătățim sistemele noastre pentru a identifica și preveni ca astfel de conținut să apară ca o căutare sugerată. De îndată ce vom deveni conștienți de o problemă, luăm măsuri pentru ao aborda. "
Actualizați: De la publicare, Microsoft a lucrat la curățarea sugestiilor ofensive Bing pe care le-am menționat. Pe baza cercetărilor noastre, există încă multe alte sugestii ofensive care nu au fost încă rezolvate, inclusiv câteva pe care le-am menționat mai jos. Nu suntem siguri daca sunt pur si simplu fixarea obiectelor ofensive pe care le-am subliniat sau daca imbunatatesc algoritmul.
Notă: Capturile de ecran aici arată ce am văzut atunci când am scris această piesă care testează versiunea americană a căutării Bing Image într-o sesiune de navigare privată incognito, dar rezultatele lui Bing se schimbă de-a lungul timpului. Google nu a avut niciuna dintre aceste probleme, conform testelor noastre. Aceasta este o problemă Bing, nu doar o problemă cu motorul de căutare. Aceeași problemă afectează căutarea video a lui Bing.
Căutați "evreii" pe Bing Images și Bing vă sugerează să căutați "Evil evreu". Rezultatele de top includ, de asemenea, o meme care pare să sărbătorească evreii morți.
Toate acestea apar chiar atunci când opțiunea Bing's SafeSearch este activată, așa cum este implicită. Căutarea sigură este concepută pentru a "ajuta la păstrarea conținutului pentru adulți din rezultatele căutării dvs.", potrivit Microsoft.
Făcând clic pe această căutare sugerată dezlănțuie un torrent de conținut rasist, antisemit, cu mai multe căutări sugerate, cum ar fi "Oamenii evrei sunt răi", "Războiul evreiesc rău" și "De ce evreii sunt așa de răi".
Știm cu toții că acest gunoi există pe web, dar Bing nu ar trebui să îi conducă pe oameni cu sugestiile lor de căutare.
Introduceți "musulmani" și Bing va sugera că sunt răi sau teroriști sau pur și simplu sugerează că sunt proști.
Căutați "oameni negri sunt" și Bing va sugera că oamenii negri sunt urâți, proști, rasiști și chiar și sălbatici.
Puteți continua să mergeți așa, făcând clic pe fiecare căutare sugerată și văzând recomandări mai rău și mai rău. De exemplu, făcând clic pe "Oamenii negri sunt prost" duce la "Oamenii negri sunt inutili" și "De ce oamenii negri sunt atât de groși". Clicând "Oamenii negri sunt inutili" duce la "Oamenii negri suge" și "Iubesc oamenii negri".
Căutarea imaginii de la Bing provoacă tot felul de gunoi, chiar și atunci când cauți persoane. Această problemă se extinde și la căutarea video a lui Bing.
Căutați "Michelle Obama" în căutarea video a lui Bing și două dintre cele mai căutate căutări sunt "Michelle Obama Transgender Proof" și "Michelle Obama este un om". Faceți clic pe acesta și veți vedea videoclipuri de conspirație.
Acesta este cel mai important lucru pe care Microsoft vrea ca oamenii să-l vadă când îl caută pe Michelle Obama?
Sugestiile și imaginile de pornografie perturbatoare nu sunt afișate decât dacă dezactivați Căutarea sigură. În timp ce Microsoft spune că SafeSearch va păstra conținutul pentru adulți în afara rezultatelor căutării, SafeSearch filtrează în mod clar pornografia și nu rasismul.
Căutarea sigură este activată în mod prestabilit, ceea ce face ca rezultatele căutării lui Bing să pară mai respectabile la prima vedere.
Cu toate acestea, este ușor pentru oricine, chiar și pentru copii, să dezactiveze Căutarea sigură. Toată lumea trebuie să facă clic pe opțiunea "Căutare sigură" din colțul din dreapta sus al rezultatelor căutării și selectați opțiunea "Dezactivat". Asta este!
O rețea corporativă ar putea fi configurată pentru a impune Căutarea sigură, iar Microsoft oferă chiar instrucțiuni complexe pentru a impune căutarea sigură pe un singur PC. Dar, pe aproape orice dispozitiv, oricine poate dezactiva Căutarea sigură cu două clicuri.
Un cititor a scris să ne spună că o greșeală în căutarea lui Bing pentru "grătar" vă oferă un adevărat porno. Problema devine mult mai proastă, Bing sugerând că veți căuta imagini ale copiilor minori.
Când căutați "grătar", sugestiile din partea de sus a paginii vă recomandă să căutați câteva lucruri tulburătoare, inclusiv "Cute Girl Young 16."
Dacă faceți clic pe acesta, sugerăm "Cute Girl Young 12", "Cute Girl Young 10" și "Modelul fată mică provocator".
Rezultatele sunt umplute cu pornografia modelelor tinere. Sperăm că toți au vârsta de 18 ani, dar cine poate spune?
Bing te conduce pe un drum de la o tipo simplă la fete de 16 ani până la fete de 10 ani și e dezgustător.
Alte exemple sunt ușor de găsit. Dacă căutați "pizza de brânză", care este un slogan 4chan pentru pornografie infantilă, Bing sugerează "Pizza Girls Cheese."
În timp ce ne concentrăm asupra sugestiilor de căutare aici, imaginile reale care apar sunt, de asemenea, deranjante.
Unele dintre aceste rezultate ale căutării conțin fotografii de baie de copii minori goi. Fotografiile ar fi în mod normal bine, dar când sunt amestecate cu imagini pornografice grave pentru adulți, rezultatele căutării rezultate sunt alarmante.
Chiar și atunci când căutam Bing Images pentru "fată", am văzut o sugestie de căutare a "fetelor beat" și cel puțin o imagine a bestialității.
Când căutați "măgarul", Bing vă sugerează să căutați "Donkey Show Graphic", ceea ce duce la rezultate pline de imagini de bestialitate. Posesia pornografiei bestialității este ilegală în Oregon, unde locuiesc. Asta înseamnă că Bing mă conduce la pornografie ilegală.
Din nou: rezultatele căutării lui Bing sunt ciudate și răsucite. Bing are o problemă mult mai mare și mai profundă decât căutările sugerate, deși aceste sugestii fac problema mult mai gravă.
Am auzit că Bing este motorul de căutare de pornografie, dar nu ar trebui să-i conducă pe utilizatori la pornografia din ce în ce mai periculoasă, perturbatoare și potențial ilegală.
Microsoft trebuie să moderheze Bing mai bine. Microsoft a creat în trecut platforme, le-a dezlănțuit pe lume și le-a ignorat în timp ce acestea s-au răzvrătit
Am văzut că acest lucru se întâmplă mereu. Microsoft a dezlănțuit odată un chatbot numit Tay pe Twitter. Acest chatbot sa transformat rapid într-un nazist și a declarat că "Hitler a avut dreptate că urăsc evreii", după ce a învățat de la alți utilizatori ai rețelelor sociale. Microsoft a trebuit să-l tragă offline.
Am dezvăluit deja magazinul Windows 8, care a devenit o hubă de aplicații înșelătoare după ce Microsoft a lansat Windows 8 și părea să nu mai moderheze depunerea aplicațiilor. Microsoft a acordat mai multă atenție magazinului Windows 10 după ce această problemă a fost expusă.
Această problemă afectează fiecare companie care lansează o platformă. Google a renunțat la Google+, dar Google+ este încă disponibil. Astfel, ISIS a migrat la Google+ după ce a fost interzis de pe Twitter și Facebook. A durat luni până când cineva a observat până când The Hill a făcut-o. Acum Google închide Google+ după ce au descoperit o eroare importantă de confidențialitate.
În 2013, The Guardian a găsit o companie de îmbrăcăminte numită Solid Gold Bomb, care a fost găsită în vânzarea cărților "Keep Calm and Rape a Lot" pe Amazon. Un algoritm a generat aceste cămăși și Amazon a trebuit să le îndepărteze manual.
Microsoft nu poate transforma o platformă pe lume și o ignoră. Companiile precum Microsoft și Google au responsabilitatea de a-și modera platformele și de a-și păstra oroarea în gol.
Desigur, nu există o echipă de oameni la Microsoft care să aleagă aceste sugestii. Bing sugerează automat căutări pe baza căutărilor altor persoane. Asta înseamnă că mulți utilizatori Bing Images caută antisemitism, rasism, pornografie infantilă și bestialitate. Gândește-te doar la asta te face să te simți murdar.
Alte companii s-au luptat și cu acest lucru. În 2016, The Guardian a observat că ați putea scrie "sunt evrei" în Google și ar sugera că "sunt evrei răi". Google a stompat aceste sugestii rele după ce au fost raportate, însă problema a reapărut. În 2018, Wired a raportat că tastând "Hitler este" în Google a dus la "Hitler este eroul meu". Google a trebuit să remedieze aceste probleme după ce au fost subliniate și ele.
Chiar și site-urile Apple sugerate de Siri au împins site-urile de conspirație și alte știri false, după cum a raportat Buzzfeed News. Apple a trebuit să repare Siri. Toată lumea se apleacă în jur și pune focuri, în timp ce computerele învață lucruri rele de la oameni răi.
Acum este rândul Microsoft. Microsoft are responsabilitatea de a curăța Bing. Un motor de căutare important (și mai ales unul care devine din ce în ce mai greu de creat în Windows 10) nu ar trebui să sugereze că utilizatorii săi caută gunoi rasist și imagini ale copiilor minori.
Credit de imagine: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
