Proszę czekać |
Proszę czekać
|
| Strona Główna | | | Impressum | | | Kariera | tel.:(+48) 22 440 15 00 |
| creditreform@creditreform.pl |
Pentagon ogłosił kilkanaście dni temu bardzo oczekiwane zasady etyki jaką powinna kierować się sztuczna iteligencja (AI). W zasadzie chodzi tu raczej o ćwiczenie odpowiedzialnego myślenia na temat wpływu sztucznej inteligencji na wojnę. Zasady są, cóż, rozczarowujące.
Być może najsilniej brzmi pierwsza z pięciu zasad, którą jest wezwanie do „zachowania odpowiedniego poziomu osądu i troski”. Jeżeli to jest zasada, którą kieruje się największe mocarstwo świata, to cyha czas się bać. Bo to stwierdzenie, co do którego wszyscy możemy się chyba zgodzić, że niewiele znaczy. "Odpowiedniego" dla kogo?
Inne zasady określają absolutne minimum, o które moglibyśmy poprosić algorytm stosowany w celu odebrania ludzkiego życia, takie jak na przykład nasza zdolność do jego odcięcia, jeśli działa w niezamierzony sposób.
Niestety, przytoczone przez amerykańskie ministerstwo wojny zasady to bardziej uzasadnienie dla armii amerykańskiej do zastosowania AI, w stopniu, w jakim uzna to za stosowne.
„Martwię się, że zasady są trochę projektem rozmywającym etykę”, powiedziała antropolog Lucy Suchman AP. Jej zdaniem, pozostają one otwarte na wiele interpretacji.
PIĘĆ ZASAD ETYKI
1. Odpowiedzialność. Ludzie powinni zachować odpowiedni poziom osądu i pozostać odpowiedzialni za rozwój, wdrożenie, wykorzystanie i wyniki systemów AI.
2. Sprawiedliwość. Departament Obrony powinien podjąć umyślne kroki, aby uniknąć niezamierzonego uprzedzenia przy opracowywaniu i wdrażaniu bojowych lub nie-bojowych systemów sztucznej inteligencji, które mogłyby przypadkowo wyrządzić szkodę ludziom.
3. Identyfikowalność. Dyscyplina inżynierii sztucznej inteligencji powinna być wystarczająco zaawansowana, aby eksperci techniczni posiadali odpowiednie zrozumienie technologii, procesów rozwojowych i metod operacyjnych jej systemów sztucznej inteligencji, w tym przejrzystych i kontrolowanych metodologii, źródeł danych oraz procedury projektowania i dokumentacji.
4. Niezawodność. Systemy AI powinny mieć wyraźną, dobrze zdefiniowaną domenę użytkowania, a bezpieczeństwo, niezawodność i odporność takich systemów powinny być testowane i zapewniane przez cały ich cykl życia w tej dziedzinie użytkowania.
5. Kontrolowalność. Systemy AI należy projektować i konstruować tak, aby spełniały swoją zamierzoną funkcję, a jednocześnie miały zdolność wykrywania i unikania niezamierzonych szkód lub zakłóceń, a także do wyłączania lub dezaktywacji przez ludzi lub zautomatyzowanych systemów, które wykazują niezamierzone eskalacje lub inne zachowania.
