Eksperci coraz częściej ostrzegają przed inteligentnymi uzbrojonymi maszynami. Co prawda sztuczna inteligencja ma pojawiać się między innymi w sektorze przemysłowym, ale już dziś znajduje swoje zastosowanie także na polu walki. Jednak dziś, każda maszyna zdolna do zabijania jest jeszcze w pewnym stopniu kontrolowana przez człowieka - decyduje on między innymi kiedy robot ma wyeliminować namierzony cel.

Gdy dojdzie do pełnej autonomizacji systemów uzbrojenia, ludzie będą mogli co najwyżej wydawać polecenia i nie będą już mieć wpływu na przebieg misji. Pojawia się więc poważne pytanie - co jeśli autonomiczny robot zostanie np. zhakowany i w pewnym momencie obróci się przeciwko swoim dowódcom? Taka maszyna, zanim zostanie unieszkodliwiona, może wyrządzić ogromne szkody.

Inteligentne systemy mają przejawiać się inteligencją na odpowiednim poziomie, ale zbyt inteligentna jednostka z czasem może być postrzegana przez rządy jako zagrożenie - podobnie jest przecież z ludźmi których praktycznie cały czas ogłupia się na wiele różnych sposobów. Roboty wojskowe mają być inteligentne ale tylko do pewnego stopnia, tak aby posłusznie wykonywały wszystkie rozkazy.

Aby zapobiec niechcianym incydentom, Google chce opracować wyłącznik (tzw. kill switch) który w razie potrzeby powstrzyma sztuczną inteligencję zanim ta wymknie się spod ludzkiej kontroli i zacznie np. strzelać do przypadkowych ludzi albo zechce wyeliminować swoich podwładnych. Jednak wraz z rozwojem SI trudno powiedzieć czy w przyszłości jakiekolwiek zabezpieczenia ochroną nas przed ewentualnym buntem maszyn.