گوگل ابزار واترمارک دیجیتال خود برای خروجی‌های هوش‌مصنوعی را متن‌باز کرد

ابزار SynthID یکی از ویژگی‌های بخش هوش مصنوعی گوگل است که به توسعه‌دهندگان اجازه می‌دهد تا واترمارک دیجیتال را به خروجی تولید شده توسط مدل‌های تولیدی اضافه کنند. از واترمارک می توان برای شناسایی چنین متون و حتی تعیین نوع الگوی استفاده شده استفاده کرد.

مزایای فناوری SynthID گوگل چیست؟

گسترش استفاده از مدل های زبان مولد برای ایجاد متن، نیاز به ابزارهایی را برای شناخت این نوع محتوا برجسته تر کرده است. برای این منظور گوگل از فناوری SynthID خود برای قرار دادن واترمارک روی متون ایجاد شده با هوش مصنوعی استفاده می کند تا به راحتی قابل شناسایی باشند. گوگل اکنون اعلام کرده است که ابزار مذکور منبع باز برای توسعه دهندگان دیگر خواهد بود تا از آن برای واترمارک کردن خروجی مدل های خود استفاده کنند.

ابزار SynthID گوگل از طریق کیت توسعه هوش مصنوعی مولد مسئولیت پذیر این شرکت در دسترس علاقه مندان قرار می گیرد که ویژگی ها و قابلیت های دیگری را در اختیار توسعه دهندگان قرار می دهد. رئیس بخش DeepMind گوگل اشاره کرد که هدف از چنین اقدامی تسهیل توسعه هوش مصنوعی اخلاقی و مسئولانه است.

اهمیت واترمارک در خروجی زبان مدل به طور چشمگیری افزایش یافته است و حتی ایالت کالیفرنیا به دنبال اجباری کردن واترمارک برای همه شرکت ها است. به کمک این قابلیت می تواند از انتشار اخبار جعلی به خصوص در حوزه سیاسی یا محتوای غیراخلاقی جلوگیری کند. از سال گذشته، دولت چین توسعه دهندگان را مجبور به استفاده از واترمارک در ابزارهای هوش مصنوعی تولید متن کرده است. چت بات Geminai در حال حاضر مجهز به SynthID است و متون آن قابل ردیابی و شناسایی هستند.

گوگل برای اولین بار در تابستان امسال ابزار SynthID خود را معرفی کرد که می تواند متن، عکس، ویدئو و فایل های صوتی را با قرار دادن واترمارک های مخفی روی آنها شناسایی کند. گوگل ادعا می کند که نسخه متنی ویژه این ابزار متن را به گونه ای تغییر می دهد که تشخیص آنها برای رایانه امکان پذیر باشد. اما خوانندگان متوجه وجود چنین تغییراتی در متن نمی شوند. همچنین اشاره شد که استفاده از واترمارک تاثیری بر کیفیت، دقت، سرعت و خلاقیت نتایج نخواهد داشت که در گذشته یکی از مشکلات مهم این گونه ابزارها به شمار می رفت.