Mengingat sebagian besar konflik bersenjata saat ini adalah konflik tanpa batas yang jelas antara berbagai kelompok bersenjata dan warga sipil, patut dipertanyakan bagaimana robot dapat secara efektif diprogram untuk menghindari korban sipil ketika manusia sendiri masih menghadapi kesulitan untuk mengatasi dilema ini. Serangan militer tidak bisa dilakukan bila berisiko menyebabkan kerusakan sipil dengan proporsional tinggi.
Sistem Senjata Otonom akan bertindak mengikuti suatu "kecerdasan buatan" yang pada dasarnya diciptakan lewat perhitungan aritmetika dan pemrograman robot. Jelas diragukan bahwa teknologi berpikir sistem robot perang saat ini mampu membuat keputusan tersebut.
Sampai saat ini masih sulit untuk fitur “perasaan” atau penilaian manusia, agar bisa bertanggung jawab dan tunduk mematuhi aturan-aturan dan norma-norma. Penggunaan kecerdasan buatan dalam konflik bersenjata yang akan menjadi tantangan mendasar bagi perlindungan warga sipil sesuai dengan hak asasi manusia internasional dan hukum humaniter.
Dan inilah kelemahan terbesar sistem robotika perang, ketidakmampuan untuk mengakomodasi kondisi di luar standar, yang bakal memerlukan intuisi dan mengambil keputusan—tentang yang baik dan jelek, salah dan benar, tepat dan tidak tepat.