وب سایت تشخیص هوش مصنوعی گوگل با نام SynthID Detector به کاربران کمک می‌کند تا سندیت محتوای دیجیتال را بررسی کرده و تایید کنند که آیا تصویر، ویدئو یا صوت توسط هوش مصنوعی تولید یا دستکاری شده است.
به گزارش گجت نیوز، با گسترش روزافزون ابزارهای هوش مصنوعی مولد، تشخیص محتوای واقعی از مصنوعی به چالشی بزرگ بدل شده است. گوگل در واکنش به این نیاز، ابزار جدید SynthID Detector را برای شناسایی واترمارک هوش مصنوعی در محتوای تولیدشده با هوش مصنوعی عرضه کرده است. این فناوری از سال ۲۰۲۳ فعال شده و اکنون به طور عمومی در دسترس همگان قرار دارد.
سیستم SynthID گوگل واترمارکی نامرئی در تمامی محتواهای تولیدشده توسط هوش مصنوعی جمنای جاسازی می‌کند. ابزار SynthID Detector با اسکن این واترمارک، وجود آن را تأیید یا رد می‌کند. برای استفاده، کافیست به وب‌سایت SynthID.com مراجعه، فایل تصویر، ویدئو یا صوت خود را آپلود کنید تا نتیجه مشخص شود. این ابزار واترمارک‌های تعبیه‌شده در محتواهای شرکای SynthID مانند OpenAI، NVIDIA و Kakao را نیز شناسایی می‌کند. پشتیبانی از محتواهای Apple نیز در دست توسعه است.
SynthID Detector با بررسی واترمارک، احتمال مثبت کاذب را از بین می‌برد. اما محدودیت‌هایی دارد: نمی‌تواند محتوای تولیدشده با AI بدون SynthID (مانند ابزارهای Meta) را تشخیص دهد. همچنین، فقط وجود واترمارک را تأیید کرده و جزئیات بخش‌های هوش مصنوعی‌تولیدشده را نمی‌دهد. گوگل تأکید دارد امضای SynthID پس از ویرایش محتوا نیز باقی می‌ماند. برای جلوگیری از سوءاستفاده، کاربران روزانه به ۱۰ بررسی محدود شده‌اند و برای استفاده باید با حساب گوگل، OpenAI یا Apple خود وارد شوند.
SynthID Detector با وجود محدودیت‌ها، یکی از مطمئن‌ترین ابزارهای موجود برای تشخیص هوش مصنوعی گوگل است. OpenAI ابزار اختصاصی خود را دارد که فراداده و واترمارک‌های SynthID را شناسایی می‌کند. متا نیز واترمارک Content Seal را در تولیدات هوش مصنوعی خود تعبیه کرده، اما ابزار وب آن گاهی در تشخیص ناکام می‌ماند.
آنتروپیک و مایکروسافت نیز محتوای هوش مصنوعی را واترمارکینگ می‌کنند، اما ابزار عمومی برای تشخیص ارائه نمی‌دهند. نکته مهم این است که هیچ ابزار قابل اعتمادی که بتواند به طور فراگیر محتوای تولیدشده با هوش مصنوعی را تشخیص دهد، وجود ندارد. ابزارهای تشخیص عمومی و آزاد، نتایج غیرقابل اعتمادی دارند و اغلب محتوای انسانی را به اشتباه هوش مصنوعی شناسایی می‌کنند.