به گزارش ایرنا به نقل از شبکه خبر گزاری یورونیوز، از امروز (یکشنبه) شرکت‌های فعال در حوزه هوش مصنوعی مشمول تعهدات تازه‌ای ذیل «قانون هوش مصنوعی اتحادیه اروپا» می‌شوند؛ قانونی که ارائه‌دهندگان را ملزم می‌کند دیپ‌فیک‌ها (Deepfake) یا جعل عمیق و سایر محتواهای تولیدی یا دست‌کاری‌شده با هوش مصنوعی را به‌گونه‌ای شفاف قابل شناسایی کنند تا مخاطب بداند با محتوای «مصنوعی» روبه‌رو است. با این حال، چالش‌های فنی موجود تردیدهایی درباره میزان اثربخشی واقعی این مقررات ایجاد کرده است.
اتحادیه اروپا ۲ سال پیش مجموعه‌ای از قواعد بلندپروازانه را برای سامان‌دهی حوزه هوش مصنوعی تصویب و هم‌زمان «دفتر هوش مصنوعی» را برای نظارت بر اجرای این قانون محوری ایجاد کرد.
این قانون در میان مواد متعدد خود، نخستین رژیم‌های شفافیت در جهان برای «رسانه‌های مصنوعی/ترکیبی» را پیش‌بینی کرده و از تأمین‌کنندگان سامانه‌های هوش مصنوعی مولد ــ مانند «کلود» شرکت Anthropic یا «چت‌جی‌پی‌تی» شرکت OpenAI ــ می‌خواهد تضمین کنند محتوای تولیدشده یا دست‌کاری‌شده به‌صورت مصنوعی، قابل تشخیص باشد. مقررات درباره «دیپ‌فیک» سخت‌گیرانه‌تر است؛ یعنی تصویر، صدا یا ویدئوهای واقع‌نمایی که با هوش مصنوعی تولید یا ویرایش می‌شوند و می‌توانند چنان شبیه یک فرد واقعی باشند که مخاطب تصور کند آن شخص کاری انجام داده یا سخنی گفته که هرگز رخ نداده است.
از طنز تا ابزار جنگ رسانه‌ای
یورونیوز با اشاره به اینکه فناوری هوش مصنوعی کاربردهای دوگانه (مثبت و منفی) دارد، نوشت: بروکسل پذیرفته است که همه محتواهای شبیه‌سازی‌شده گمراه‌کننده نیستند؛ از این رو، آثار هنری، خلاقانه، طنزآمیز یا داستانی از شمول تعهدات سخت‌گیرانه معاف شده‌اند. نمونه بارز آن، انتشار تصویر شبیه‌سازی‌شده از پاپ فرانسیس با یک کاپشن مدرن سفید در سال ۲۰۲۳ بود که بیشتر یک شوخی تلقی شد.

با این حال، همین فناوری می‌تواند به مراتب مخرب‌تر به کار گرفته شود؛ به‌طوری که افراد هدفِ انتشار تصاویر تولیدشده با هوش مصنوعی بدون رضایت خود در فضای مجازی قرار گیرند؛ موضوعی که بار دیگر بحث‌ها درباره مخاطرات رسانه‌های مصنوعی را شدت بخشیده است.
علاوه بر این، جعل عمیق (دیپ‌فیک) به ابزاری برای دست‌کاری‌های سیاسی بدل شده و نشان داده است که محتوای مصنوعی می‌تواند در زمان جنگ، کارکرد یک سلاح رسانه‌ای را پیدا کند.
نگرانی اصلی آن است که با واقع‌گرایانه‌تر شدن محتواهای مولد و تقویت دامنه انتشار آنها در شبکه‌های اجتماعی، تشخیص خبر معتبر از محتوای ساختگی برای شهروندان دشوارتر شود.
سامان‌دهی و تنظیم مقررات برای پدیده جعل عمیق (دیپ‌فیک)
کمیسیون اروپا برای مواجهه با این چالش، دستورالعملی داوطلبانه تحت عنوان «آئین‌نامه بهترین رویه‌ها» تدوین کرده است تا چارچوبی برای مشخص کردن منشأ مصنوعی محتواهای ترکیبی فراهم کند. این اقدام از طریق نشانه‌گذاری‌های دیجیتالِ قابل‌شناسایی برای ماشین (واترمارک) و همچنین نصب برچسب‌های واضح بر روی آثار «جعل عمیق» انجام می‌شود.
منطق این رویکرد ساده است: مردم باید بدانند محتوایی که می‌بینند، تولید یا ویرایش‌شده با هوش مصنوعی است. از همین رو، قواعد یادشده هم بر شرکت‌های سازنده فناوری و هم بر کسب‌وکارهایی که در چارچوب حرفه‌ای از هوش مصنوعی استفاده می‌کنند اعمال می‌شود و استفاده‌های شخصی، عموماً خارج از دامنه اجراست.
این کُد صرفاً به برچسب‌گذاری محدود نیست و سازوکار «کشف/تشخیص» را نیز در بر می‌گیرد؛ سازوکاری که مستلزم همکاری همه بازیگران مرتبط است: شرکت‌های هوش مصنوعی، پلتفرم‌های شبکه‌های اجتماعی، سازمان‌های جامعه مدنی و نهادهای راستی‌آزمایی.
با این حال، پرسش اصلی این است که آیا فناوری می‌تواند واقعاً این وعده را محقق کند یا خیر.
یک قانون؛ چالش های متعدد و گره های اجرایی
نخستین چالش، جغرافیاست. اتحادیه اروپا می‌تواند شرکت‌هایی را که در بازار اروپا فعالیت دارند یا آن را هدف می‌گیرند تنظیم‌گری کند، اما محتوای آنلاین مرز نمی‌شناسد. دیپ‌فیکی که بیرون از اروپا تولید شود، می‌تواند ظرف چند دقیقه به میلیون‌ها کاربر اروپایی برسد.
چالش دوم، بلوغ فنی است. شرکت‌های بزرگ مانند OpenAI و گوگل به‌طور کلی از الزامات شفافیت حمایت کرده و کُد کمیسیون را امضا کرده‌اند؛ اما هم‌زمان هشدار می‌دهند فناوری‌های تشخیص و نشانه‌گذاری، «هدف متحرک» هستند و دائماً تغییر می‌کنند.
در حال حاضر راه‌حل واحد و فراگیرِ صنعتی وجود ندارد. شرکت‌ها رویکردهای مختلفی را می‌آزمایند؛ از جمله واترمارک/نشان‌گذاری دیجیتال، فراداده (Metadata) و سامانه‌های ردیابی و منشأیابی محتوا؛ راهکارهایی که الزاما با یکدیگر سازگار یا قابل‌تعامل نیستند.
چالش سوم، شکنندگی ردپاهای دیجیتال است. کارشناسان هشدار می‌دهند واترمارک‌ها ممکن است حذف، مخدوش یا در جریان ویرایش، فشرده‌سازی و جابه‌جایی محتوا بین پلتفرم‌ها از بین بروند. ردیابی تاریخچه کامل یک تصویر یا ویدئوی تولیدشده با هوش مصنوعی در میان اصلاحات متعدد، می‌تواند بسیار دشوار باشد.
بر همین اساس، برخی پژوهشگران معتقدند هیچ فناوری منفردی کافی نیست و شرکت‌ها ناگزیرند رویکرد «چندلایه» را با ترکیب چند روش به کار گیرند. در مطالعه فنی کمیسیون اروپا نیز آمده است: مجموعه‌ای از راه‌حل‌ها از هر اقدام منفرد مؤثرتر است؛ بنابراین توصیه می‌شود برای محتوای تولیدشده با هوش مصنوعی چندین لایه نشانه‌گذاری و تشخیص اجرا شود.
مسابقه با کوران تحول فناوری
اتحادیه اروپا در برخورد با یکی از چالش‌های بزرگ عصر هوش مصنوعی ــ جهانی که در آن تمایز محتوای مصنوعی از واقعیت روزبه‌روز دشوارتر می‌شود ــ گامی جلوتر برداشته است.
اما بروکسل (مقر کمیسیون اروپا) تا چه اندازه می‌تواند هم‌پای فناوری‌ای که با شتابی خیره‌کننده تحول می‌یابد حرکت کند، یک سوال اساسی است؛ مقررات شفافیت «قانون هوش مصنوعی» را می‌توان به سپری واقعی برای شهروندان تبدیل کرد یا صرفاً برچسبی است بر مسئله‌ای که همچنان از کنترل خارج می‌ماند.