وقتی هوش مصنوعی به جای شما دروغ می‌گوید؛ حکم شرعی جعل چهره و صدا چیست؟
ادمین ۵
هوش مصنوعی حالا می‌تواند چهره شما را روی بدن دیگری بنشاند، صدایتان را تقلید کند و جملاتی را به شما نسبت دهد که هرگز نگفته‌اید؛ آن‌قدر طبیعی که شاید حتی نزدیکانتان هم فریب بخورند. اما اگر کسی با استفاده از این فناوری، تصویر یا صدای دیگری را برای شوخی، فریب یا تخریب آبروی او جعل کند، از نظر شرعی چه حکمی دارد؟ آیا هر نوع شبیه‌سازی با هوش مصنوعی حرام است یا باید میان کاربرد هنری، بازسازی آموزشی و جعل فریبنده تفاوت گذاشت؟
هوش مصنوعی می‌تواند چهره افراد را بازسازی کند، صدای آن‌ها را تقلید کند و سخنانی را به آنان نسبت دهد که هرگز نگفته‌اند. اما حکم شرعی این فناوری چیست؟ آیا ساخت تصویر و صدای جعلی همیشه حرام است یا نوع استفاده از آن در تعیین حکم شرعی نقش دارد؟
بنابر روایت مهر، تصور کنید ویدئویی در شبکه‌های اجتماعی منتشر می‌شود که در آن فردی شناخته‌شده سخنی جنجالی بر زبان می‌آورد. صدا کاملاً شبیه صدای واقعی اوست و حرکات چهره نیز طبیعی به نظر می‌رسد. ویدئو به‌سرعت منتشر می‌شود، واکنش‌های گسترده‌ای برمی‌انگیزد و حتی ممکن است آبرو و موقعیت اجتماعی آن فرد را به خطر بیندازد. اما ساعاتی بعد مشخص می‌شود که این صحنه هرگز اتفاق نیفتاده و تمام آن با هوش مصنوعی ساخته شده است.
این همان پدیده‌ای است که با عنوان «دیپ‌فیک» یا جعل عمیق شناخته می‌شود؛ فناوری‌ای که مرز میان واقعیت و تصویر ساختگی را کمرنگ کرده است.
اما پرسش مهم فقط توانایی هوش مصنوعی در ساخت تصاویر و صداهای غیرواقعی نیست. مسئله این است که آیا می‌توان با استفاده از این فناوری، چهره یا صدای دیگران را بدون محدودیت بازسازی کرد؟ آیا نسبت‌دادن سخنان ساختگی به افراد، صرفاً یک شوخی یا تجربه فناورانه است یا می‌تواند از نظر شرعی مصداق دروغ، افترا و هتک حرمت باشد؟
بررسی فقهی این موضوع نشان می‌دهد که نمی‌توان برای همه کاربردهای دیپ‌فیک یک حکم یکسان در نظر گرفت. هدف تولید محتوا، نحوه انتشار، رضایت اشخاص، احتمال فریب مخاطب و پیامدهای اجتماعی آن، در تشخیص حکم شرعی اهمیت دارند.
دیپ‌فیک چیست و چرا به یک مسئله شرعی تبدیل شده است؟
دیپ‌فیک به محتوای تصویری، صوتی یا ویدئویی گفته می‌شود که با استفاده از فناوری‌های هوش مصنوعی تولید یا دست‌کاری شده و می‌تواند حضور، گفتار یا رفتار یک فرد را به‌صورت غیرواقعی بازنمایی کند.
برای مثال، ممکن است چهره یک شخص روی بدن فرد دیگری قرار بگیرد، صدای او برای بیان جمله‌ای ساختگی شبیه‌سازی شود یا ویدئویی تولید شود که در آن فردی ظاهراً رفتاری انجام می‌دهد که در واقعیت هرگز مرتکب نشده است.
تفاوت دیپ‌فیک با ویرایش معمولی تصویر در همین نکته است. در ویرایش ساده، معمولاً کیفیت، نور یا رنگ تصویر تغییر می‌کند؛ اما در جعل عمیق، ممکن است یک رفتار، گفتار یا رویداد کاملاً ساختگی به شکلی بازسازی شود که مخاطب آن را واقعی تصور کند.
به همین دلیل، مسئله فقط تولید یک تصویر مصنوعی نیست؛ بلکه گاهی موضوع، انتساب یک سخن یا رفتار دروغین به یک انسان واقعی است.
ساخت ویدئویی طنزآمیز از یک شخصیت خیالی با تولید فیلمی که در آن فردی واقعی ظاهراً به ارتکاب جرم اعتراف می‌کند، تفاوت اساسی دارد. در نمونه نخست، ممکن است با یک اثر هنری یا سرگرم‌کننده مواجه باشیم؛ اما در نمونه دوم، احتمال فریب مخاطب، تخریب آبرو و ایجاد اتهام ناروا مطرح می‌شود.
بنابراین، پرسش فقهی دقیق این نیست که «آیا ساخت تصویر با هوش مصنوعی جایز است؟» بلکه باید پرسید: چه محتوایی، از چه شخصی، با چه هدفی و به چه شکلی تولید و منتشر شده است؟
حکم شرعی دیپ‌فیک؛ آیا هر تصویر جعلی مصداق دروغ است؟
یکی از مهم‌ترین مبانی بررسی فقهی دیپ‌فیک، مسئله صدق و کذب است.
اگر فردی با استفاده از هوش مصنوعی ویدئویی بسازد که در آن شخص دیگری جمله‌ای را بیان می‌کند که هرگز نگفته است و سپس آن را به‌عنوان یک فیلم واقعی منتشر کند، محتوایی خلاف واقع را به مخاطب ارائه کرده است.
در چنین شرایطی، اگر هدف سازنده فریب دیگران باشد، مسئله می‌تواند با عنوان شرعی دروغ و فریب ارتباط پیدا کند.
بااین‌حال، هر تصویر مصنوعی الزاماً دروغ محسوب نمی‌شود. برای مثال، بازسازی دیجیتالی یک رویداد تاریخی با هدف آموزش، ساخت فیلم داستانی یا تولید محتوای هنری، در صورتی که ماهیت بازسازی‌شده آن برای مخاطب روشن باشد، لزوماً ادعای ثبت یک واقعیت خارجی ندارد.
مرز اصلی زمانی مخدوش می‌شود که محتوای ساختگی عمداً به‌عنوان واقعیت عرضه شود و مخاطب تصور کند سخن یا رفتاری واقعاً از شخص موردنظر صادر شده است.
از این منظر، جدیدبودن فناوری نمی‌تواند معیارهای شرعی مربوط به صدق، امانت‌داری و پرهیز از فریب را کنار بزند.
جعل صدای افراد چه زمانی به تهمت و هتک حرمت تبدیل می‌شود؟
همه آثار منفی دیپ‌فیک را نمی‌توان با یک عنوان فقهی توضیح داد. بسته به نوع محتوا و شرایط انتشار، ممکن است عناوین متفاوتی مطرح شوند.
دروغ: زمانی مطرح می‌شود که محتوایی خلاف واقع به‌عنوان واقعیت به مخاطب ارائه شود.
تهمت و افترا: هنگامی اهمیت پیدا می‌کند که رفتار یا اتهامی ناروا و خلاف واقع به شخص دیگری نسبت داده شود. برای مثال، ساخت ویدئویی جعلی که در آن فردی به ارتکاب جرم اعتراف می‌کند.
هتک حرمت: اگر تصویر یا صدای ساختگی با هدف تحقیر، تمسخر یا خدشه‌دارکردن شأن و آبروی فرد تولید یا منتشر شود، این عنوان نیز می‌تواند مطرح باشد.
غیبت: عنوانی با شرایط فقهی مشخص است و نمی‌توان هر محتوای منفی یا جعلی را بدون بررسی شرایط، مصداق غیبت دانست.
برای مثال، اگر صدای فردی جعل شود تا وانمود کند از یک گروه حمایت کرده است، احتمال فریب مخاطبان مطرح می‌شود. اگر همان فناوری برای ساخت اعترافی ساختگی به یک جرم به کار رود، مسئله انتساب ناروا و آسیب به آبروی فرد نیز اهمیت پیدا می‌کند.
در نتیجه، تشخیص حکم شرعی به بررسی قصد سازنده، محتوای تولیدشده، نحوه انتشار و آثار احتمالی آن نیاز دارد.
آیا رضایت فرد برای شبیه‌سازی چهره و صدا کافی است؟
یکی از پرسش‌های مهم درباره دیپ‌فیک این است که اگر فردی با استفاده از تصویر یا صدای خود در یک محتوای هوش مصنوعی موافقت کند، آیا دیگر هیچ منع شرعی وجود ندارد؟
رضایت صاحب چهره یا صدا در بسیاری از موارد اهمیت دارد، اما نمی‌توان آن را مجوزی نامحدود برای هر نوع استفاده دانست.
فرض کنید شخصی به یک گروه تولید محتوا اجازه می‌دهد صدایش برای ساخت یک اثر طنز استفاده شود. آیا این رضایت به معنای اجازه ساخت و انتشار ویدئویی است که در آن ظاهراً به ارتکاب جرمی اعتراف می‌کند؟
یا اگر فردی اجازه استفاده از چهره خود را در یک اثر هنری بدهد، آیا این اجازه شامل استفاده از همان تصویر در تبلیغی گمراه‌کننده یا محتوایی توهین‌آمیز نیز می‌شود؟
پاسخ به این پرسش‌ها به حدود رضایت، نوع محتوا، هدف استفاده و حقوق سایر اشخاص بستگی دارد.
حتی در صورت رضایت صاحب تصویر یا صدا، ممکن است انتشار محتوای ساختگی موجب فریب دیگران یا تضییع حقوق اشخاص ثالث شود. بنابراین، رضایت فرد به‌تنهایی لزوماً همه ابعاد شرعی و اخلاقی موضوع را حل نمی‌کند.
از سوی دیگر، میان تقلید آشکار و جعل پنهان نیز تفاوت وجود دارد. اگر مخاطب بداند که با یک صدای شبیه‌سازی‌شده یا تصویر مصنوعی روبه‌روست، احتمال فریب کاهش می‌یابد؛ اما اگر سازنده عمداً مصنوعی‌بودن محتوا را پنهان کند تا آن را به‌عنوان واقعیت جا بزند، مسئله شکل دیگری پیدا می‌کند.
شبیه‌سازی تصویر و صدای معصومان؛ دیدگاه یک پژوهش فقهی
یکی از موضوعات خاص در بررسی فقهی هوش مصنوعی مولد، بازنمایی چهره و صدای پیامبر اکرم(ص) و ائمه اطهار(ع) است.
در پژوهشی با عنوان «حکم شرعی تولید محتوای تصویری و صوتی معصومین (علیهم‌السلام) به روش هوش مصنوعی مولد از منظر کرامت و حرمت تقلید ظاهری»، امیر طاها جوادی‌منش به بررسی این موضوع پرداخته است.
این پژوهش به مسئله شبیه‌سازی چهره و صدای معصومان از منظر کرامت و حرمت تقلید ظاهری توجه دارد و میان ارائه محتوای مصنوعی به‌عنوان چهره یا صدای واقعی و استفاده هنری یا آموزشی همراه با اعلام صریح مصنوعی‌بودن آن تفاوت می‌گذارد.
هرچند موضوع این پژوهش به‌طور خاص درباره معصومان است، یک مسئله مهم‌تر را نیز یادآوری می‌کند: مخاطب باید بداند محتوایی که مشاهده می‌کند، سند واقعی است یا بازنمایی ساخته‌شده با فناوری.
این تمایز در استفاده از هوش مصنوعی برای شبیه‌سازی افراد عادی و شخصیت‌های شناخته‌شده نیز اهمیت دارد.
مسئولیت شرعی تولیدکنندگان و منتشرکنندگان دیپ‌فیک چیست؟
با گسترش ابزارهای تولید محتوای مصنوعی، تشخیص تصاویر و صداهای جعلی دشوارتر شده است. در چنین شرایطی، مسئولیت تولیدکننده محتوا تنها به ساخت یک فایل تصویری یا صوتی محدود نمی‌شود؛ نحوه ارائه و انتشار آن نیز اهمیت دارد.
ممکن است تولید یک تصویر مصنوعی با هدف هنری یا آموزشی انجام شود و از ابتدا نیز ماهیت ساختگی آن برای مخاطب روشن باشد. اما اگر همان تصویر بدون توضیح و با هدف فریب منتشر شود، موضوع از یک فعالیت هنری فراتر می‌رود.
همچنین بازنشر یک محتوای جعلی، بدون بررسی اعتبار آن، می‌تواند به گسترش فریب و آسیب به آبروی افراد کمک کند. به همین دلیل، مسئولیت اخلاقی و شرعی فقط متوجه تولیدکننده اولیه نیست و شرایط و نقش منتشرکنندگان نیز باید بررسی شود.
در مواجهه با چنین محتواهایی، توجه به چند نکته ضروری است:
- محتوای تولیدشده با هوش مصنوعی باید تا حد امکان به‌روشنی از محتوای واقعی تفکیک شود.
- نباید سخن یا رفتار ساختگی به‌عنوان واقعیت به دیگران نسبت داده شود.
- رضایت اشخاص باید در حدود مشخص و با توجه به نوع استفاده بررسی شود.
- تولید و انتشار محتوای تحقیرآمیز یا آسیب‌زننده به آبروی افراد باید از منظر عناوین شرعی مرتبط ارزیابی شود.
- پیش از بازنشر ویدئوها و فایل‌های صوتی مشکوک، باید درباره صحت و اصالت آن‌ها تحقیق کرد.
آیا استفاده از دیپ‌فیک همیشه حرام است؟
پاسخ به این پرسش، بدون توجه به جزئیات هر کاربرد، ممکن نیست. نمی‌توان صرف استفاده از هوش مصنوعی برای ساخت تصویر یا صدا را در همه شرایط حرام دانست؛ همان‌طور که نمی‌توان جدیدبودن فناوری را مجوزی برای هر نوع استفاده از آن تلقی کرد.
بازسازی آموزشی یک رویداد تاریخی، تولید اثر هنری، تقلید آشکار صدا برای سرگرمی و جعل پنهانی سخنان یک شخص واقعی، موضوعات یکسانی نیستند.
در نگاه فقهی، هدف، محتوا، شیوه ارائه، رضایت اشخاص و پیامدهای رفتار باید در کنار یکدیگر بررسی شوند. ممکن است اصل تولید یک محتوای مصنوعی اشکال مستقلی نداشته باشد، اما استفاده از آن برای دروغ‌گویی، فریب، انتساب اتهام ناروا یا هتک حرمت، عنوان شرعی دیگری پیدا کند.
در نهایت، مسئله اصلی این نیست که هوش مصنوعی تا چه اندازه می‌تواند واقعیت را بازسازی کند؛ بلکه این است که انسان‌ها چگونه از این توانایی استفاده می‌کنند. هرچه جعل تصویر و صدا آسان‌تر می‌شود، ضرورت صیانت از آبرو، اعتماد عمومی و حقوق دیگران نیز بیشتر اهمیت پیدا می‌کند.
فناوری می‌تواند صدایی شبیه حقیقت بسازد، اما مسئولیت تشخیص مرز حقیقت و جعل همچنان بر عهده انسان است.
منبع پژوهشی
[۱] جوادی‌منش، امیر طاها، «حکم شرعی تولید محتوای تصویری و صوتی معصومین (علیهم‌السلام) به روش هوش مصنوعی مولد از منظر کرامت و حرمت تقلید ظاهری»، شبکه علمی ایران، کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده‌پژوهی فناوری.
