أليكسا ، هل أطلب منك مساعدتي في اتخاذ القرارات؟

geralt / Pixabay، CC0 المشاع الإبداعي

المصدر: geralt / Pixabay، CC0 Creative Commons

في الآونة الأخيرة نيويورك تايمز المقالة ، الكاتبة راشيل بوتسمان تصف تجاربها "الأبوة والأمومة المشتركة مع اليكسا، "مساعد أمازون الرقمي. كما توضح ، تظهر ابنتها غريس البالغة من العمر ثلاث سنوات راحة مروعة مع اليكسا ، وتسألها (هي؟) عن الطقس ، وتطلب أغانيها المفضلة ، وحتى تظهر الذنب بعد إخبار أليكسا أن يصمت.

يقدم Botsman نظرة ثاقبة على التحول في علاقتنا بالتكنولوجيا وهذا يمثل:

على مدى أجيال ، لم تتجاوز ثقتنا بها سوى الشعور بالثقة بأن الآلة أو الآلية ستفعل ما يفترض أو يتوقع منها القيام به ، لا أكثر ولا أقل. نحن نثق بغسالة لتنظيف ملابسنا أو A.T.M. لتوزيع الأموال ، لكننا لا نتوقع تشكيل علاقة معهم أو الاتصال بهم بالاسم.

اليوم ، لم نعد نثق في الآلات لمجرد القيام بشيء ما ، ولكن لنقرر ما يجب فعله ومتى نفعل ذلك. سينمو الجيل التالي في عصر يكون فيه من الطبيعي أن يحيط بك وكلاء مستقلون ، بأسماء لطيفة أو بدونها. سوف يتخذ أليكاس العالم مجموعة من القرارات لأطفالي وغيرهم مثلهم وهم يمضون حياتهم - كل شيء من الحصول على ماك و الجبن أو وعاء أخضر لتناول العشاء إلى الهدية المثالية لعيد ميلاد صديق ما يجب القيام به لتحسين مزاجهم أو طاقتهم وحتى تقديم المشورة بشأن من ينبغي عليهم تاريخ.

في المقال ، مقتطف مقتبس من كتابها القادم ، الذي يمكن أن تثق به؟ كيف جمعتنا التكنولوجيا معًا ولماذا قد تدفعنا إلى التميز، يركز Botsman على الآثار التجارية لهذه الثقة المكتشفة حديثًا في التكنولوجيا ، نظرًا لأن Alexa هو منتج مصمم لتقليل الحاجز الصغير الموجود بالفعل بيننا وبين Amazon. كما تشير إلى Echo Look ، وهو جهاز يعمل مع Alexa لمساعدتك في اختيار خيارات أزياء أفضل - مختارة من Amazon ، بما في ذلك خطوط الموضة الخاصة بها. صدى عمل الباحث القانوني فرانك باسكوال (مجتمع الصندوق الأسود: الخوارزميات السرية التي تتحكم في المال والمعلومات) ، يُطلق بوتسمان على Alexa "خوارزمية شركة في صندوق أسود".

هناك أيضًا آثار مهمة لاعتمادنا المتزايد على الخوارزميات اتخاذ القرار من حيث استقلاليتنا ، أصالةوالفردية. كما أكتب في كتابي الجديد انحطاط الفرد (بعد مناقشة المخاطر ذات الصلة مع الاعتماد المفرط على البيانات الشخصية و "الذات الكمية"):

على غرار المشكلات المتعلقة باستخداماتنا للبيانات الشخصية ، يمكن أن تصبح التنبؤات الخوارزمية للشركات إشكالية إذا سمحنا لها أيضًا تأثير كبير على خياراتنا دون التفكير في صلاحيتها وأسسها ، بالإضافة إلى السياق الأوسع الذي نتخذ فيه الخيارات. هذا لا يعني أننا لا يجب أن نفكر أو نقبل توصيات كتاب أمازون ؛ في بعض الأحيان ، يكون قبول "نصيحة" العمل أمرًا معقولًا تمامًا. بالتأكيد ، إذا كنت تشاهد Netflix بلا عقل في المساء - ربما تتطلع فقط إلى الجزء "واسترخ" - فقد تكون دعها تلعب عرضًا تلو الآخر ، راضيًا بشكل عام عن اختياراتها ، ولكن هذا لأنك حقًا لا تهتم كثيرًا بما أنت عليه راقب. ولكن إذا كنت تشاهد بنشاط ، فأنت تريد اختيار العرض أو الفيلم التالي ، ولجميع بيانات Netflix و الخوارزميات ، أنت تعرف أكثر مما تفعل ما تريد مشاهدته بعد ذلك ، وفي هذه الحالات ، يجب عليك استبعادها التوصيات. الكثير منا يفعل ذلك ، بالطبع ، لكن قلقي يكمن في أولئك الذين لا يفعلون ، أولئك الذين يضحون حتى بالقليل من استقلالية صنع القرار الخاصة بهم لصناع القرار الآخرين الذين يفترضون أنهم يعرفون أفضل.

المشكلة العملية في ذلك هي أن الخوارزميات مثل تلك المستخدمة من قبل Amazon و Netflix يمكنها فقط تتبع سلوكك السابق وتشكيل التخمينات بناءً على سلوكك المستقبلي. لكنهم لا يستطيعون معرفة أسباب قيامك بهذه الاختيارات أو الأسباب التي تجعلك تختار في المستقبل - ناهيك عن ما إذا كانت ستكون نفس الأسباب! بهذا المعنى ، هذه التوصيات الخوارزمية هي نسخة أكثر دقة من الغريب في الحفلة التي تقول ، "أوه ، لقد أحببت أشياء غريبة? ثم ستحب تحسس 8، "لأنهم يعتقدون أنهم متشابهان ، على الرغم من أن هذا قد لا علاقة له بالسبب الذي أعجبك أشياء غريبة.

الأهم من ذلك ، التخلي عن اختياراتنا للتوصيات الخوارزمية يعني أننا ، بطريقة ما ، نسلم الخيارات المتعلقة بحياتنا إلى الآخرين الأطراف التي نفترض أنها "تعرف بشكل أفضل". لكي نكون منصفين ، هناك حجج جيدة للقيام بذلك: كما يوضح الباحث والكاتب الغزير كاس سونشتاين في كتابه كتاب اختيار عدم الاختيار، لدينا عدد هائل من القرارات التي نتخذها في أي يوم معين ، ولا يوجد سوى الكثير من الموارد العقلية التي نتخذها ، لذلك من المنطقي تفريغ بعض من عملية صنع القرار هذه على الآخرين. نسمح لمحطة الراديو DJ - أو Spotify أو Pandora هذه الأيام باختيار موسيقانا ، والسماح لـ Netflix باختيار برامجنا ، و دع أمازون تختار كتبنا ، وهذا يوفر لنا الموارد العقلية التي يمكننا تكريسها لأهم وأهم مهام.

ولكن كما هو الحال مع معظم الأشياء ، يمكن أن يؤخذ هذا بعيدًا. بقدر ما تعكس اختياراتنا وتحدد من نحن ، نحن نضحي بالقليل من فرديتنا ، هوياتنا ، كلما سمحنا لشخص آخر باختيارنا. كما أكتب انحطاط الفرد:

إذا كنا نتنازل عن الخيارات بوعي من أجل تكريس خياراتنا انتباه إلى المهام الأكثر أهمية ، بالمعنى النشط لـ "اختيار عدم الاختيار" ، فلا بأس. ولكن إذا كنا نفعل ذلك لأننا نعتقد أن الآخرين يعرفوننا بشكل أفضل منا ، فهذه مشكلة ، لأننا نتخلى عن السيطرة على حياتنا ، حتى في المناطق التي تبدو تافهة.

مرة أخرى ، لن يكون هذا مشكلة كبيرة إذا كانت الخيارات التي نتنازل عنها للخوارزميات تتعامل فقط مع الأغاني والبرامج التلفزيونية. لكن كما تظهر قصة بوتسمان ، قد يطور الجيل القادم درجة من الثقة في "حكمة"التكنولوجيا التي تقودهم إلى التخلي عن المزيد من الاستقلالية للآلات ، مما يؤدي إلى انخفاض في الفرد هوية والأصالة حيث يتم ترك المزيد والمزيد من القرارات لأطراف أخرى لاتخاذ مصالح ليست كذلك الشخص نفسه - ولكن قد يكون في مصلحة تلك البرمجة والتحكم فيها الخوارزميات.

أليس هذا صحيحا ، اليكسا؟