Rozwój sztucznej inteligencji budzi obawy wśród wielu ludzi na całym świecie. Podczas gdy coraz szersze grono naukowców domaga się wstrzymania prac nad SI, dwaj studenci informatyki z Carnegie Mellon University stworzyli inteligentnego bota, którego nauczono poruszać się w trójwymiarowym środowisku w grze komputerowej i zabijać jak największą liczbę przeciwników.

Do nauki tego oprogramowania wykorzystano technikę uczenia maszynowego (tzw. deep learning). Inteligentny bot nawigował po planszy w starej, lecz wciąż popularnej grze wideo "Doom", zbierał przedmioty, broń, amunicję i apteczki, za co otrzymywał punkty. Podobnie było w przypadku zabijania swoich przeciwników, którymi byli zarówno ludzcy gracze, jak i "zwykłe" boty. Punkty odejmowano za każde otrzymane obrażenia i śmierć.

Z każdą rozgrywką, sztuczna inteligencja osiągała coraz lepsze wyniki. Bot dość łatwo potrafił poruszać się w trójwymiarowym pikselowym świecie, gromadzić zapasy broni i eliminować wrogów. Wyróżniał się niezwykłą celnością. System został porównany do prawdziwej maszyny do zabijania.

Oprogramowanie było tak skuteczne, że wywołało obawy wielu ludzi. Możliwości sztucznej inteligencji zostały wyraźnie przedstawione w wirtualnym świecie. Skoro bot potrafił przemieszczać się po wirtualnym świecie, z pewnością stanowiłby równie wielkie zagrożenie w naszym świecie rzeczywistym. W szczególności, niebezpiecznie brzmi kwestia "nagradzania" SI za każdego zabitego przeciwnika. Uzbrojona inteligentna maszyna, wysłana na pole walki, mogłaby wpaść w swego rodzaju szał zabijania i zaczęłaby eliminować każdą żywą istotę, w tym zwierzęta i swoich sojuszników, za co otrzymywałaby "punkty" niczym w grze komputerowej, co dodatkowo zachęcałoby ją do dalszego zabijania.