الذكاء الاصطناعي الذي يقرأ كشف حسابك البنكي، يستطيع غالبًا أن يحوّل الأموال أيضًا. لذلك فالسؤال المهم لأي شركة ليس: ما مدى ذكائه؟ بل: ماذا يُسمح له أن يفعل حين لا يراقبه أحد؟
في منتجاتنا، يلتزم الذكاء الاصطناعي بالقواعد نفسها التي يلتزم بها الموظف: دور محدد، وصلاحيات مكتوبة، وسقف صرف. وفي Smartacy هناك أيضًا حد شهري لاستهلاكه، فلا تفاجئك فاتورة.
الذكاء الاصطناعي لا يمنح أحدًا صلاحية لا يملكها.
هذه القاعدة وحدها تحمي الكثير. فلا يمكنك أن تكلّف الذكاء الاصطناعي بمهمة خارج صلاحياتك، ولا يستطيع موظف في المالية أن يعتمد عبره دفعة تتجاوز صلاحيته، لأنه لا يستطيع اعتمادها بنفسه أصلًا.
والحدود أيضًا تجعل الثقة بالذكاء الاصطناعي أسهل. فحين يجهّز إعادة مبالغ التأمين لاثني عشر مزايدًا ويتجاوز المجموع سقفه، يصل الطلب إلى صندوق القرارات ومعه المبلغ والسبب وأسماء من يحق لهم الاعتماد. الذكاء الاصطناعي أنجز العمل، والإنسان يتخذ القرار.
التعليمات تخبر الذكاء الاصطناعي بما يفعل، أما الحدود فتحدد ما يحدث حين لا تكفي التعليمات.