जेकबका अनुसार अहिलेका मोडेलबाट तत्कालै मानव विनाशको खतरा छैन । तर, एआईले आफूलाई ‘रिकर्सिभ सेल्फ–इम्प्रुभमेन्ट’ अर्थात निरन्तर बुद्धिमानी बनाउने क्षमता हासिल गरेपछि स्थिति नियन्त्रणबाहिर जाने उनको तर्क छ । गणित र कोडिङका जटिल समस्या समाधान गर्ने क्षमतामा भएको तीव्र वृद्धिले यो खतरा निकै नजिकिँदै गरेको संकेत गर्ने जेकबले बताएका छन् ।
एआई कम्पनीहरूबीचको तीव्र प्रतिस्पर्धा हेर्दा कुनै कम्पनीभित्र बसेर सुधार ल्याउन असम्भव रहेको भन्दै जेकबले राजिनामा दिएको उल्लेख गरेका छन् । उनले एआई विकासका सन्दर्भमा अन्तर्राष्ट्रिय सरकारी स्तरबाट कडा नियमन हुनुपर्ने माग गरेका छन् । वालस्ट्रिट जर्नलका अनुसार एन्थ्रोपिकले शेयर बजारमा सूचीकृत हुन लागेको र २ खर्ब डलरको मूल्यांकन खोजिरहेको बेला उनले ठूलो आर्थिक लाभ त्यागेर राजिनामा दिएका हुन् ।
जेकबको चेतावनीपछि अमेरिकी राजनीतिमा पनि तरंग पैदा भएको छ । सिनेटर बर्नी स्यान्डर्सले एआई निर्माण गर्नेहरू स्वयंले नै यसको खतरा स्वीकार गरेको भन्दै जेकबको भनाइमा सहमति जनाएका छन् । स्यान्डर्स र सांसद ग्रेग कासारले सुपर इन्टेलिजेन्समाथि प्रतिबन्ध लगाउने र एआई विकासलाई केही समय रोक्ने विधेयक ल्याउने घोषणा गरेका छन् ।
