3. Dataetik DK
Samtykke
Samtykke er ikke længere en engangsbeslutning, men et løbende spørgsmål, der skal overvåges nøje. Det mekanismer til tilbagetrækning af samtykke bør være lige så lette som dem for at give samtykke.
Datadeling
Stærk etisk praksis udelukker deling af data uden samtykke, men effektiv brug af data kræver, at de skal deles. At tackle problemerne og afbøde risiko forbundet med deling af data er afgørende.
Algoritmisk bias
Data kan ofte indeholde skjulte partier, der er produceret ved systematiske og gentagne fejl i et computersystem. Disse kan skabe upålidelige eller urimelige resultater.
Download og brug dette værktøj:
https://theodi.org/article/data-ethics-canvas/
Bias in AI
Tre af de seneste AI’er for kønsgenkendelse, fra IBM Microsoft og det kinesiske firma Megvii, kunne identificere en persons køn fra et fotografi 99 procent af tiden, men kun for hvide mænd. For mørkhudede kvinder faldt nøjagtigheden til kun 35 procent.
Det øger risikoen for forkert identifikation af kvinder og mindretal. Kilde: Ny videnskabsmand
Bias i implementering
Et firma byggede en smartphone-app, der overvåger efter huller i vejen ved passivt at indsamle accelerometerdata.
De første byer, der implementerede denne teknologi til at prioritere vejvedligeholdelse, så velhavende samfund få mest opmærksomhed.
De havde ikke de værste veje, de var folk med flest smartphones.
Kilde: New Scientist