گاف هوش مصنوعی و چالش نوین اعتماد در رسانه

مترجم: علی شاکر-  اشتباه اول من در گاردین – به شکل دردناکی – در اولین مطلبی که برای این روزنامه‌ نوشتم، رخ داد و تا امروز در اینترنت ثبت مانده است. در پایان مطلب، با لحنی مودبانه توضیح داده شد که سوژه‌ام یک فیزیکدان نظری (theoretical physicist) بود، نه یک پزشک نظری(theoretical physician). 10 سال بعد، همچنان از یادآوری [این اشتباه تایپی] به خودم می‌لرزم.
با این حال، وقتی ماجرای سیستم هوش مصنوعی اپل را دیدم، کمی خیالم راحت‌تر شد. در اعلان‌های خبری خودکارش که برای بعضی از آیفون‌ها ارسال می‌شد، آمده بود که «لوئیجی مانجیونه»، متهم به قتل مدیرعامل UnitedHealthcare، «برایان تامپسون»، به خودش شلیک کرده. همچنین گفته بود «بنیامین نتانیاهو» بازداشت شده است. اعلام کرده بود «پیت هگسث»، که در آن زمان هنوز به عنوان وزیر دفاع دونالد ترامپ تأیید نشده بود، استعفا داده و نوشته بود «رافائل نادال» همجنسگراست. برای شفافیت، هیچ‌کدام از این موارد واقعیت نداشت.
این فهرست از گاف‌های عجیب، حاصل کار هوش مصنوعی «Apple Intelligence» است که از دسامبر در آیفون‌های جدید در بریتانیا فعال شده بود.
هیچ راهی برای ناشران وجود نداشت که از این سیستم انصراف دهند، و تنها نشانه برای تشخیص اینکه این متن‌ها خروجی Apple Intelligence است و نه محتوای خود خبرگزاری، یک فلش کوچک کنار لوگوی سازمان خبری بود.
 پس از آنکه بی‌بی‌سی سلسله گزارش‌های انتقادآمیز درباره‌ی این پدیده منتشر کرد، اپل واکنشی نشان داد که از آن بعید بود؛ عقب‌نشینی کرد و سرویس را به حالت تعلیق درآورد. (برای شفافیت: همسر من کارمند اپل است.)
دلیل لغو این سرویس روشن بود: ماجرا آن‌قدر عجیب و خنده‌دار هست که سر زبان‌ها بیفتد. اینکه – چنان‌که یکی از خلاصه‌ها ادعا کرده بود – «لوک لیتلر» قهرمان نهایی مسابقات جهانی دارت شده، پیش از آن‌که بازی فینال را انجام دهد، شبیه ماجرای دستی شش‌انگشته در یک عکس خبری است: در نگاه اول کل واقعی به نظر می‌رسد، اما اگر دقت کنید، می‌بینید یک نقص مهلک و خنده‌دار در آن هست. تصورش هم ترسناک است اگر  مثلاً این سرویس تابستان پیش فعال بود و خلاصه‌ خبرهایی از همین جنس درباره‌ی سوءقصد به جان دونالد ترامپ منتشر می‌کرد.
با این حال، مسئله‌ی محوری در این‌جا برخورد دو فرهنگ به‌کلی متضاد است؛ یکی که خطاها را طی تکرار عمومی می‌پذیرد و حاضر است خطاهای کاربران را در این مسیر تجربه کند؛ و دیگری که اگر مرتب اشتباه کند، اصل فلسفه‌ی وجودی‌اش زیر سؤال می‌رود. دشوار بتوان این دو گرایش را با هم آشتی داد، اما شاید بتوان گفت در فضای روزنامه‌نگاری «ناگزیر است» به راه‌حلی عاقلانه فکر شود.
نمی‌توان از Apple Intelligence انتظار داشت که با یادآوری این خطاها بلرزد، چون اصولاً نمی‌فهمد «واقعیت» چیست، صرفاً می‌داند «واقعیت» چه شکلی به نظر می‌رسد. آنچه شاید ترسناک‌تر باشد دیدگاه آن‌سوی ماجراست: اینکه شاید اصلاً از این خطاها باخبر نمی‌شدیم، و به‌احتمال زیاد اشتباهات بسیاری رخ داده که هیچ‌کس متوجهشان نشده است.
همه‌ی این‌ها صرفاً به این دلیل فاش شد که روزنامه‌نگارانی در بی‌بی‌سی – و همچنین در ProPublica و واشنگتن پست – این اعلان‌ها را دریافت کرده بودند. خلاصه‌ها روی گوشی کاربران و به‌صورت محلی تولید می‌شد و اپل راهی برای ردیابی‌شان ندارد. معنایش این است که ممکن است کاربران دیگری اعلان‌های غلطی دریافت کرده باشند و آن را به حساب بی‌دقتی خبرنگاران بگذارند تا تقصیر یک هوش مصنوعی سرکش – یا شاید اصلاً همان را پذیرفته باشند. احتمال دارد هنوز هم افرادی با آیفون در شهر بگردند و تصور کنند مثلاً بابانوئل پیام پادشاه را خوانده است، یا هر اتفاق عجیب دیگری.
بی‌بی‌سی تنها رسانه‌ای نبود که این مشکل را تشخیص داد، ولی تنها جایی بود که واقعاً دنبال آن را گرفت و علنی‌اش کرد. شدت پوشش گزارش‌هایش در این زمینه پیام پنهانی هم برای مخاطبان داشت. یکی از خبرنگاران بی‌بی‌سی می‌گوید: «اینکه به مردم می‌فهماندیم اگر چنین چیزی می‌بینند، کار بی‌بی‌سی نیست، اتفاقاً بد هم نبود. اما موضوع اصلی این بود که خط قرمزی برای اپل ترسیم کنیم و بگوییم: «ببینید، به نظر می‌رسد این اخبار از طرف ما منتشر می‌شوند[ولی کار اپل است]. این درحالی است‌که تمام اعتبار ما بر قابل‌اعتماد بودن بنا شده است.»
برخی ممکن است این را دست بیندازند و بگویند خود رسانه‌ها هم مرتب اشتباه می‌کنند؛ اشتباه‌هایی جدی‌تر از اشتباه تایپی من در آن مقاله که معنا را تغییر داد. اما اشتباه رسانه‌ها معمولاً نسخه‌هایی تحریف‌شده از دنیای واقعی‌اند، نه گزارش‌هایی از یک دنیای کاملاً خیالی. نکته‌ی کلیدی این است که اگر یک رسانه مرتب اشتباهات بزرگ مرتکب شود، اعتبارش آسیب می‌بیند و مخاطبان رهایش می‌کنند، یا دیگران درباره‌ی اشتباهاتش گزارش می‌دهند؛ و همه‌چیز آشکار و روشن است.
همچنین شاید توجه کنیم که خبرنگاران به شکل فزاینده‌ای از هوش مصنوعی در تولید مطالب استفاده می‌کنند؛ و بی‌شک این ابزاری بسیار قدرتمند است که به روزنامه‌نگاران تحقیقی با آن می‌توانند الگوهایی را در حجم عظیمی از داده‌های مالی پیدا و فساد را برملا کنند، یا تصاویر ماهواره‌ای را برای یافتن نشانه‌های حملات بمب‌افکن‌ها در مناطقی که supposed safe [مکان‌هایی اعلام‌شده به‌عنوان امن] بوده‌اند، تحلیل کنند.
در چنین مواردی، بحث بر سر میزان لازم شفافیت در اطلاع‌رسانی این موضوع کاملاً منطقی است: از یک سو، اگر داده‌ها و خروجی‌ها تحت نظارت درست باشند، شاید چیزی در حد استفاده از اکسل باشد؛ از سوی دیگر، هوش مصنوعی هنوز آن‌قدر تازه است که احتمال دارد مخاطب از شما انتظار داشته باشد جانب احتیاط را بگیرید. با این وجود، تفاوت اساسی در این نیست که به مخاطب چه می‌گویید، بلکه در سطح نظارتی است که بر کار ماشین اعمال می‌کنید.
در نهایت، شاید واکنش اپل در این ماجرا گویاترین نکته باشد. حتی اگر یک ماه بعد از اولین گزارش بی‌بی‌سی سکوت کرد، اینکه شرکتی با چنین سابقه‌ای در انکار و دفاع از خود، سرانجام عقب نشست، قابل توجه است. اما تردیدی نیست که دوباره این محصول را برمی‌گرداند و نگفته که سطح دقت مورد نظرش چه خواهد بود.
سؤال واقعاً جالب این است که چرا اپل در این خلاصه‌ها، استفاده از هوش مصنوعی را تا این حد نامشهود نگه داشته است – انگار دو حرف آشنا که می‌شد در قالب یک آیکون قابل فهم کنار هم گذاشت وجود نداشت! همین چیز جزئی رعایت نشده، نشان‌دهنده‌ی نشان‌دهنده‌ی مشکلی بزرگ‌تر است؛ در مواجهه با یک فناوری انقلابی که کاربرانش درک دقیقی از آن ندارند، پایبندی به مأموریت ساده‌ای که اپل برای خود تعریف کرده، گاهی اوضاع را پیچیده می‌کند.
واقعیت این است که حتی اگر هویت اپل به اندازه‌ی برخی رقبایش به‌عنوان یک شرکت هوش مصنوعی تعریف نشده باشد، همچنان خوب می‌فهمد که چه فرصت ارزشمندی پیش آمده. محصولاتی که در چند سال آینده نزد ما جا می‌افتند، شاید شبیه ماجرای صفحه‌کلید که به شکل Qwerty باشد که نسبت به انواع دیگر صفحه‌کلیدها بیشتر جا افتاد. یا پیروزی مرورگر اینترنت اکسپلورر بر نت‌اسکیپ؛ جایی که ضعیف‌تر سرانجام پیروز شد. چون مقیاسی غیرقابل رقابت دارند. اگر این‌گونه باشد، ایجاد تجربه‌ای بدون اصطکاک شاید رویکردی بسیار مؤثر به حساب بیاید.
حتی اگر رسانه‌های باسابقه‌ی دنیا هم شکایت کنند، احتمالاً اهمیتی برایشان نداشته باشد. در آخرین به‌روزرسانی نرم‌افزاری‌اش که هفته‌ی پیش منتشر شد و همان بود که خلاصه‌های خبری را غیرفعال کرد، اپل برای اولین بار امکان هوش مصنوعی را به‌طور پیش‌فرض فعال گذاشت.

منبع: گاردین