ممکن است گذشته دیگر امن نباشد!

نیازی نیست دنیایی را تصور کنیم که در آن جعل عمیق (دیپ‌فیک‌ها) می‌تواند صدای سیاستمداران را آن قدر باور‌پذیر تقلید کند که بتوان از آن برای ایجاد رسوایی‌هایی استفاده کرد که می‌تواند در انتخابات تأثیر گذار باشد، چرا که این موردی است که در حال حاضر هم وجود دارد. خوشبختانه، دلایل متعددی برای خوش‌بینی نسبت به توانایی جامعه در شناسایی رسانه‌های جعلی و حفظ درک مشترک از رویدادهای جاری وجود دارد. در حالی که دلایلی برای این باور داریم که آینده ممکن است امن باشد، نگران آن هستیم که گذشته امن نباشد.
تاریخ می تواند ابزاری قدرتمند برای دستکاری و سوء استفاده باشد. هوش مصنوعی مولد، که توانایی جعل رویداد‌های جاری را دارد، چرا نتواند رویداد‌های گذشته را جعل کند؟ در حالی که محتوای جدید ممکن است از طریق سیستم‌های داخلی ایمن شود، که این کار با افزودن اطلاعات نامحسوس به یک فایل دیجیتالی انجام می‌شود تا بتوان منشأ آن را ردیابی کرد، دنیایی از محتوا وجود دارد که ته‌نقش‌گذاری (واترمارک) نشده است. با فراگیر شدن ته‌نقش‌نگاری در خلق آثار و بی‌اعتمادی مردم نسبت به محتوای فاقد ‌ته‌نقش، هر چیزی که قبل از این فراگیری تولید شده است را بسیار راحت‌تر می‌توان زیر سوال برد و این مورد گنجینه ای از فرصت ها را برای حمایت از ادعاهای نادرستی که برایشان سند تهیه شده است، از عکس هایی که شخصیت های تاریخی را در موقعیت های سازش آور قرار می دهند گرفته، تا تغییر داستان های فردی در روزنامه های تاریخی و تغییر نام در اسناد مالکیت، ایجاد می کند.
با اینکه همه‌ این تکنیک‌ها قبلاً مورد استفاده قرار گرفته‌اند، اما زمانی که هزینه‌ ساخت موارد جعلی که تقریباً بدون عیب و نقص هستند به شدت کاهش یافته باشد، مقابله با آنها بسیار دشوارتر خواهد بود. این پیش بینی بر مبنای تاریخ است. همانگونه که نمونه های زیادی از دستکاری سوابق تاریخی توسط قدرت‌های سیاسی و اقتصادی به نفع خودشان وجود دارد. مثالی از این موارد استالین بود که رفقای خائن خود را اعدام و از صفحه‌ روزگار محو کرد و سپس عکس‌های به جای‌مانده را به نحوی تغییر داد که گویا این افراد هرگز وجود نداشته اند. و یا زمانی که اسلوونی در سال 1992 به استقلال رسید، نام بیش از 18000 نفر (که عمدتاً از اقلیت رومانیایی و سایر اقوام غیراسلوونیایی بودند) از فهرست ثبت‌نام ساکنین حذف شد. بر طبق گزارش کمیسیون حقوق بشر شورای اروپا در سال 2003، دولت در بسیاری از موارد سوابق مادی آنها را از بین برد که منجر به از دست دادن خانه، حقوق بازنشستگی و دسترسی به سایر خدمات آنها شد. اسناد جعلی بخش کلیدی بسیاری از تلاش ها برای بازنویسی سوابق تاریخی است.
مثال دیگری از این موارد نامه‌ زینوویف بود، که گفته می‌شد بیانیه ای محرمانه از رئیس اتحادیه احزاب کمونیست در مسکو به حزب کمونیست بریتانیا برای بسیج کردن حمایت‌ها از عادی‌سازی روابط با اتحاد جماهیر شوروی است، یک نامه‌ جعلی که 4 روز قبل از انتخابات سراسری بریتانیا توسط روزنامه‌ دیلی میل منتشر شد. این اتهام ممکن بود به قیمت پیروزی حزب کارگر تمام شود. منشأ نامه هرگز اثبات نشده بود، اما صحت آن در آن زمان مورد تردید قرار گرفت و تحقیقات رسمی در دهه‌ 1990 نشان داد که به احتمال زیاد انتشار آن کار جنبش سفید (روس‌های سفید) - جناح سیاسی محافظه‌کار که در آن زمان توسط مهاجران روسی مخالف حکومت کمونیسیتی رهبری می‌شد- بوده است.
چند دهه‌ بعد نیز، یک کمپین شایعه‌پراکنی بنام « عملیات عفونت» که توسط شوروی ایجاد شده بود، از اسناد جعلی برای انتشار این ایده استفاده کرد که ایالات متحده ویروس اچ آی وی را به عنوان یک سلاح بیولوژیکی اختراع کرده است. در سال 2004 سی بی اس نیوز شایعات بحث‌برانگیزی را که در مورد جورج بوش منتشر کرده بود پس گرفت، چرا که نتوانست اسناد جعلی را که خدمات پیشین او در گارد هوایی ملی تگزاس زیر سوال می‌برد تایید کند. از آنجایی با وجود هوش مصنوعی تولید اطلاعات نادرست تاریخی آسان تر می شود و حجم عظیمی از موارد جعلی دیجیتالی گسترش می‌یابد، فرصت برای تغییر شکل تاریخ یا حداقل زیر سوال بردن درک فعلی ما از آن در دسترس خواهد بود.
چشم انداز بازیگران سیاسی که از هوش مصنوعی مولد برای تغییر شکل موثر تاریخ استفاده می کنند هولناک است، که البته نباید کلاهبردارانی که اسناد قانونی و سوابق معاملاتی جعلی ایجاد می کنند را هم از قلم بیاندازیم. خوشبختانه، همان شرکت هایی که چنین ریسک‌هایی را ایجاد کرده‌اند، خط مشی آینده را نیز مشخص کرده‌اند.
شرکت‌های هوش مصنوعی در نمایه‌سازی سهم بزرگی از رسانه‌های دیجیتال جهان برای آموزش مدل‌های خود، سیستم‌ها و پایگاه‌های داده‌ای را ایجاد کرده‌اند که به زودی حاوی تمام محتوای ضبط‌ شده دیجیتالی بشر یا حداقل تقریبی معنادار از آن خواهد بود. شرکت‌های هوش مصنوعی در نمایه‌سازی سهم بزرگی از رسانه‌های دیجیتال جهان برای آموزش مدل‌های خود، سیستم‌ها و پایگاه‌های داده‌ای را ایجاد کرده‌اند که به زودی حاوی تمامی محتوای ضبط‌ شده‌ دیجیتالی انسانی یا حداقل شامل تشابه‌ زیاد هدفمندی از آن خواهد بود.
آنها می توانند از امروز کار خود را برای ضبط نسخه های ته‌نقش‌گذاری شده (واترمارک شده) از این اسناد اولیه، که شامل آرشیو روزنامه ها و طیف گسترده ای از منابع دیگر است، آغاز کنند، به طوری که جعل های بعدی فورا قابل تشخیص باشد. البته چنین اقداماتی با موانعی روبرو است. مثلا، تلاش کتابخانه‌های دیجیتالی گوگل برای اسکن میلیون‌ها کتاب کتابخانه‌های جهان و دسترسی آسان به آن‌ها به صورت آنلاین با محدودیت‌های مالکیت معنوی مواجه شد و بایگانی تاریخی را برای هدف مورد نظر خود که این متون را برای هر کسی که به اینترنت متصل است قابل جستجو کند، غیرقابل اجرا کرد.
همین نگرانی‌های مربوط به مالکیت معنوی باعث می‌شود که سازندگان و شرکت‌ها در مورد داده‌های آموزشی ارائه‌شده‌ در مورد هوش مصنوعی مولد و پیامدهای آن هنگام استفاده برای تولید محتوا احساس نگرانی داشته باشند. با توجه به این پیشینه‌ مملو از اتفاقات، از جمله سرمایه گذاری ناموفق گوگل در پروژه کتابخانه های دیجیتالی خود، چه کسی برای تلاش گسترده مشابهی که نسخه های تغییرناپذیر از داده های تاریخی را ایجاد می کند، قدم برداشته و هزینه خواهد کرد؟ هم دولت و هم صنعت انگیزه‌های قوی برای انجام این کار دارند و بسیاری از نگرانی‌های مالکیت معنوی در مورد ارائه‌ یک آرشیو آنلاین قابل جستجو برای ایجاد نسخه‌هایی از اسنادی که ته‌نقش‌گذاری شده و دارای برچسب زمانی باشند اعمال نمی‌شود، زیرا این نسخه‌ها نیازی به در دسترس قرار گرفتن عمومی برای ارائه هدفشان ندارند.
می توان با استفاده از تبدیل ریاضی اسناد معروف به هش، صحت اسناد ارایه‌شده را با بایگانی ایجاد شده سنجید و مقایسه کرد، همان تکنیکی که انجمن جهانی اینترنت برای مقابله با تروریسم از آن برای کمک به شرکت ها برای بررسی محتوای تروریستی شناخته شده استفاده می کند. جدا از ایجاد یک کالای عمومی مهم و محافظت از شهروندان در برابر خطرات ناشی از دستکاری روایات تاریخی، ایجاد بایگانی تایید شده از اسناد تاریخی می تواند برای شرکت های بزرگ هوش مصنوعی نیز ارزشمند باشد.
تحقیقات جدید نشان می دهد که وقتی مدل های هوش مصنوعی بر روی داده های تولید شده توسط هوش مصنوعی آموزش داده می شوند، عملکرد آنها به سرعت افت می‌کند. بنابراین جدا کردن بخش حقیقی سوابق تاریخی از واقعیات تازه ایجاد شده، ممکن است حیاتی باشد. حفظ گذشته به معنای حفظ داده های آموزشی، ابزارهای مرتبط با آن و حتی محیطی است که ابزارها در آن به کار گرفته شده اند. وینت سرف، یکی از پیشگامان اولیه‌ اینترنت، این نوع بایگانی‌ها را «پوشش دیجیتالی» نامیده است و ما برای ایمن سازی محیط اطلاعات به آن نیاز داریم.
چنین پوششی ابزار قدرتمندی خواهد بود و می‌تواند به شرکت‌ها کمک کند تا مدل‌های بهتری بسازند و آنها را قادر می‌سازد که چه نوعی از داده‌ را برای دریافت بهترین محتوا در برگیرند و به قانون‌گذاران کمک کند تا سوگیری و محتوای مضر در مدل‌ها را بررسی کنند. بزرگان فناوری در حال حاضر تلاش‌های مشابهی را برای بایگانی محتوای جدیدی که مدل‌هایشان ایجاد می‌کنند انجام می‌دهند - تا حدی به این دلیل که آنها باید مدل‌های خود را بر روی متن تولید شده توسط انسان آموزش دهند و داده‌های تولید شده پس از پذیرش مدل‌های زبانی بزرگ ممکن است با محتوای تولید شده آلوده شود. زمان آن فرا رسیده است که این تلاش را برای گذشته نیز انجام دهیم، قبل از اینکه سیاست‌های ما نیز توسط سوابق ساختگی به شدت تحریف شود.

ترجمه از محسن آقابابایی دستجردی، جامعه تحلیلی گویا