

Co jeżeli ktoś zaprogramuje ją tak że ludzie mają mieć najlepiej, mają nie być w stanie zagrożenia a roboty mają za zadanie chronić jednostkę żywą, (Film Ja Robot) a roboty uznają że zagrożeniem dla człowieka jest człowiek i po prostu zniewolą ludzkość bo sama sobie zagraża :v
Ja mam prostszą odpowiedź. Maszyny zwyczajnie zastąpią ludzi.
Są to zdolność do samoregeneracji i abstrakcyjne myślenie które to sprawiają że człowieka nie da się zastąpić.
My do tej pory nie jesteśmy w stanie wyjaśnić czym tak naprawdę jest "wymiar świadomości". A co za tym idzie, nie potrafimy nadać czemukolwiek takowej zdolności do abstrakcyjnego myślenia.
Poprostu, wbrew pozorom jesteśmy niezastąpieni.
1. Jak chcesz zdefiniować krzywdę człowieka?
Te trzy prawa choć proste to dobrze zaimplementowane w "główny filar" SI będzie dla niej kagańcem którego nie da rady obejść.
1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
3. Robot musi chronić samego siebie, o ile tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.