Etyka w AI
Granica między „legalne” i „obronialne” — i co powiedzieć, gdy ktoś zapyta dlaczego.
Zgodność z przepisami odpowiada na pytanie „czy wolno”. Nie odpowiada na pytanie, które przychodzi zaraz po nim: czy będziecie w stanie wytłumaczyć tę decyzję klientowi, pracownikowi i dziennikarzowi, którzy zapytają, dlaczego system zrobił to, co zrobił.
To nie jest temat na warsztat z wartości. To temat na konkretne ustalenia: gdzie w procesie stoi człowiek, co zapisujemy, żeby dało się odtworzyć decyzję, i kto ma prawo powiedzieć „nie” po tym, jak model powiedział „tak”.
Częsty argument
„Etyka AI to miękki temat, który nie ma skutków prawnych.”
Jak jest
Ma je pośrednio i dotkliwie: to, co obiecaliście w polityce, regulaminie i materiałach marketingowych, staje się miarą, według której ocenia się Wasze działanie. Obietnica bez procesu jest dowodem przeciwko Wam.
Pytania, które słyszę najczęściej
- ? Gdzie w naszym procesie realnie stoi człowiek?
- ? Co musimy logować, żeby móc odtworzyć decyzję po pół roku?
- ? Jak informować klientów, że rozmawiają z systemem?
- ? Kto w firmie może zatrzymać wdrożenie i na jakiej podstawie?