SynthID چیست؟ چگونه محتوای هوش مصنوعی را تشخیص میدهد؟
محتوای نوشته شده توسط هوش مصنوعی هر روزه در حال افزایش است و این محتواها به شکلی هستند که تشخیص آنها از محتوای انسانی دشوار است. SynthID ابزاری برای تشخیص این نوع محتواها و مارک گذاری هوش مصنوعی است.
وجود هوش مصنوعی باعث پیشرفتهای زیادی در حوزههای مختلف شده است، اما در تولید محتوا باعث ایجاد اخبار جعلی، استفاده غیر مجاز از آثار خلاقانه، دیپ فیک و… میشود. به خصوص که ترکیب آن با نوشتههای انسانی پیدا کردن آن را دشوارتر میکند.
SynthID چیست؟
Google DeepMind ابزار SynthID را توسعه داده تا واترمارک را در محتواهای تولید شده توسط هوش مصنوعی جاسازی کند، اما این واترمارکها به گونهای طراحی و ارائه شدهاند که نامرئی باشند و مشخص کنند یک محتوا در فضای رسانه با هوش مصنوعی تولید شدهاند یا خیر.
ابزار SynthID در محتواهایی مانند متن، صوت، ویدیو و تصویر واترمارک گذاری میکند، اما نسبت به رسانههای مختلف عملکرد و رویکرد متفاوتی دارد. طبق آمارهای ارائه شده توسط گوگل تاکنون بیش از 10 میلیارد محتوا با SynthID واترمارک گذاری شدهاند.
در این ویدیو ما یک تصویر را که توسط Nano Banana تولید شده بود، به جمنای دادیم تا ابزار SynthID را امتحان کنیم. همان طور که میبینید به درستی تشیص داد که این تصویر چگونه ساخته شده است.
SynthID چگونه کار میکند؟
SynthID برای رسانههای مختلف عملکرد متفاوتی دارد که در این قسمت به بررسی آنها میپردازیم.
واترمارک تصاویر با SynthID
در تصاویر، این ابزار مقادیر رنگ یا پیکسلها را به صورت خیلی جزئی، به گونهای که قابل تشخیص نباشد تغییر میدهد. این تغییرات به گونهای هستند که در ویرایشهایی مانند فشرده سازی و کراپ هم تصویر قابل شناسایی باشد. این نوع مارک گذاری به شدت در برابر دستکاریها و ایجاد تغییرات در عکس مقاوم است.
واترمارک ویدیو با SynthID
در ویدیوها SynthID، هر فریم را به صورت جدا واترمارک گذاری میکند. با این کار کراپ و فشرده سازی ویدیو تغییر در آن ایجاد نکرده و همچنان ویدیو قابل تشخیص خواهد بود. اما با تغییرات حرفهای ویدیو و اعمال فیلترهای شدید، میتوان این مورد را دور زد. اما نیاز به تغییرات زیاد و حرفهای دارد.
واترمارک متن با SynthID
در تولید متن با مدلهای زبانی بزرگ، زبان به توکنهای مختلف میشکند. بعد از این مراحل با بررسی نمرات توکن بعدی حدس زده میشود. ابزار SynthID، در این مرحله از تولید متن، نمرات را به صورت جزئی واترمارک را قرار میدهد. این موضوع هیچ تاثیری بر روی کیفیت متن نمیگذارد و خواننده متوجه آن نمیشود. متن با این ویژگی در برابر تغییرات و بازنویسیهای سبک، مقاوم است اما در برابر تغییرات سنگین و ترجمه ضعیفتر و قابل دور زدن میشود.
SynthID چگونه محتواها را بررسی میکند؟
خب برای اینکه کاربران بتوانند با این ابزار کار کنند و متوجه شوند چه محتوایی با هوش مصنوعی ساخته شده، لازم نیست کار زیادی انجام دهند.
در قدم اول محتوا ( ویدیو، تصویر، متن و صوت) که فکر میکنند ممکن است هوش مصنوعی در ساخت آن دخیل بوده باشد را بارگذاری میکنند. بعد ابزار SynthID شروع به بررسی وجود واترمارک میکند. در این بررسی محتوا به صورت کامل چک میشود و اگر حتی بخش کوچکی از آن دارای هوش مصنوعی باشد، آن را پیدا میکند. در آخرین قدم قسمتی که در آن واترمارک پیدا کرده را به کاربر نمایش میدهد.
کاربردهای SynthID
- یکی از نگرانیها با پیشرفت AI، تولید محتوای جعلی و انتشار اخبار و اطلاعات نادرست است. SynthID برای جلوگیری از انتشار اخبار نادرست و جلوگیری از دستکاری اطلاعات توسعه داده شده است.
- با افزایش واترمارک گذاری با SynthID در شبکههای اجتماعی، کاربران میتوانند راحتتر متوجه ویدیوهای هوش مصنوعی شوند و تصمیمات درستتر بگیرند.
- SynthID کمک میکند تا منبع دادهها یافت شود و صحت دادهها را چک میکند.
به طور کلی امروزه از هوش مصنوعی و محتواهایی که آن میتواند بسازد سو استفادههای زیادی صورت میگیرد، از طرفی محتواهای انسانی با ارزشهایی مانند خلاقیت و نوآوری کپی میشوند که این کار غیر اخلاقی است. بر اساس این آسیبها و موضوعاتی مانند تحت تاثیر قرار گیری تصمیم گیری با محتوای فیک، وجود SynthID بسیار ضروری است.
چالشهای SynthID
- در محتواهای متنی با تغییرات سنگین و ترجمه، ممکن است واترمارک گذاری کمرنگتر شده و تشخیص هوش مصنوعی سختتر شود.
- در محتواهای تصویری و ویدیوها نیز ممکن است با تغییر در کنتراست نور و ادیتهای حرفهای، تشخیص این موضوع سختتر شود.
- در حال حاضر ابزار SynthID، در تشخیص محتواهای خود گوگل موفق بوده است؛ چرا که در فرایند تولید واترمارک گذاری صورت گرفته است.
آینده SynthID و واترمارک گذاری
در حال حاضر، گوگل واترمارک گذاری متنی SynthID را به صورت متن باز ارائه داده است و استفاده از آن در پروژههای مختلفی توسط توسعه دهندگان صورت گرفته است. همچنین گوگل برای گسترش SynthID با شرکتهایی مثل NVIDIA و GetReal Security نیز گسترش داده است. همکاری با NVIDIA باعث این میشود که بیشتر ویدیوهای سراسر وب دارای واترمارک باشند و این موضوع فقط مختص ویدیوهای تولید شده توسط گوگل نباشد.
کلام آخر
ابزار SynthID، توسعه داده شده توسط گوگل؛ یک ابزار مهم و ضروری برای یافتن محتواهای ساخته شده با هوش مصنوعی است. این ابزار به کاربران کمک زیادی میکند تا از سو استفادههای فضای رسانه و اخبار جعلی و دروغی دوری کنند. از طرفی به نوآوری و خلاقیت انسانی جان دوباره میدهد تا به دور از هوش مصنوعی بتوانند خلاقیت خود را گسترش دهند.
سوالات متداول
ابزار SynthID، با واترمارک محتواهای ساخته شده توسط هوش مصنوعی، تشخیص آنها را آسانتر میکند و در یافتن محتواهای جعلی و دروغی کمک بزرگی به افراد میکند.
در هنگام ساخت تصاویر توسط AI، در رنگ پیکسلها تغییرات نامرئی ایجاد میشود که با ادیتهای سبک و فسرده سازی از بین نمیروند. در شناسایی تصویر هوش مصنوعی نیز این موضوع را بررسی میکنند.
منابع
- https://www.datacamp.com/tutorial/synthid
- https://blog.google/technology/developers/google-io-2025-collection/
- https://deepmind.google/models/synthid/
اولین دیدگاه را اضافه کنید.