Tema

Rättvisa algoritmer ger bättre rekommendationer

E-handeln behöver förfina sina rekommendationssystem med bättre användardata för att nå fram med rätt produkt till rätt kund. Och användaren måste kunna lite på rekommendationerna utifrån sina klick. Malmöforskaren Dimitris Paraschakis visar hur rättvisa algoritmer ger träffsäkra system som gynnar båda parter.

Dimitris Paraschakis vid Malmö universitet undersökt hur företag på nätet kan ge personliga och träffsäkra rekommendationer som samtidigt lever upp till etiska krav.

Han beskriver ett informationsöverskott, och ett överflöd av valmöjligheter som måste hanteras. Företag inom till exempel e-handeln behöver förfina sina rekommendationssystem för att nå fram med rätt information eller produkt till rätt kund, och på så vis öka sina vinster. Och användaren måste kunna lite på den information och rekommendationer vi får utifrån våra klick och köp.

Det kan handla om allt från banklån och böcker, till resor och förslag på dejtingpartner som styrs av maskininlärningsalgoritmer. I sin avhandling har Dimitris Paraschakis tagit fram modeller för hur detta kan låta sig göras.

– Fältet har gått över till en mer realistisk modellering av användardata som bygger på olika sessioner och sekvenser i användarens beteende: vi tittar på en produkt på nätet, lägger den i varukorgen, vi klickar på ”köp”, säger Dimitris Paraschakis.

Går att göra mer exakt

Dessa mer pragmatiska modeller, som använder sekvenser, sessioner och strömningar, ger enligt Dimitris Paraschakis möjligheten att bygga mer exakta, rättvisande och personliga rekommendationssystem. Samtidigt finns det, menar han, behov av mer enhetliga algoritmiska lösningar. I avhandlingen föreslår han två nya rekommendationssystem för strömning av sessionsdata. Han har också tagit fram ett nytt verktyg för benchmarking där han jämfört sina modeller med existerande.

– Vi testade våra föreslagna algoritmer när det gällde såväl tips om resor, shoppingpreferenser och vilka nyheter du är intresserad av att läsa. I samtliga fall blev träffarna mer exakta, säger Dimitris Paraschakis.

Algoritmisk rättvisa

Avhandlingen diskuterar också de etiska aspekterna av rekommendationssystem. Något som han menar inte stått i fokus för utvecklingen av rekommendationssystem.

– När systemet börjar användas är det inte bara hur träffsäkert det är som spelar roll. Det måste också kunna leva upp till normer och lagar om antidiskriminering, integritetskrav, GDPR och liknande. Det finns risk att det bidrar till saker som partiskhet, filterbubblor och desinformation säger Dimitris Paraschakis.

Dimitris Paraschakis menar att utvecklare måste ha en helhetssyn på potentiella etiska problem och förespråkar tillhandhållandet av etiska filter som användaren kan ställa in. I en delstudie har han fördjupat sig i ”algoritmisk rättvisa”. För att illustrera hur det kan fungera presenterar han en modell för rättvis matchmaking vid speed dating.

Träffsäkra system gynnar båda parter

Dimitris Paraschakis berättar om ett fall där människor upprördes över att dejtingtjänsten de använt konsekvent matchade dem mot personer med samma etnicitet, trots att de specifikt angett att det var ovidkommande.

– Det visar att rekommendationssystem alltså kan bortse från användarens önskemål. I vår algoritm kan man göra urvalet mer rättvisande och man slipper bli pådyvlad preferenser man inte har. Det kan vara känsligt, men det är också din rättighet att ha olika preferenser på olika områden, säger Dimitris Paraschakis.

Är systemet träffsäkert vinner båda sidor på det, menar han. Så även när man matchar någon mot en ledig tjänst: både företaget och den sökande ska veta att rekommendationen stämmer överens med jobbprofilen.

– Det handlar även om att göra ett rättvist urval av kandidater. De tävlar om exponering och måste därför också behandlas rättvist, säger Dimitris Paraschakis.

Avhandling:

Sociotechnical Aspects of Automated Recommendations – Algorithms, Ethics and Evaluation

Kontakt:

Dimitris Paraschakis, Institutionen för datavetenskap och medieteknik, Malmö universitet, dimitris.paraschakis@mau.se

Vi finns där du är @forskningsnyhet

Rättvisa algoritmer ger bättre rekommendationer

 lästid ~ 3 min