הבניית אמון בעולם התוכן המיוצר ב-AI: לפי OpenAI
OpenAI משפרת את היכולת לזהות את מקור התוכן שנוצר ב-AI באמצעות סטנדרטים מתקדמים וכלים לאימות ציבורי.
חיזוק האמון באמצעות C2PA
OpenAI עוסקת בפיתוח ואימוץ סטנדרטים לזיהוי מקור התוכן מאז 2024, כאשר התחילה להוסיף 'אישורי תוכן' (Content Credentials) לתמונות שנוצרו על ידי DALL·E 3. החברה הצטרפה לוועדת ההיגוי של ה-C2PA, ארגון שאחראי על סטנדרטים טכניים פתוחים לזיהוי מקור התוכן. הסטנדרט של C2PA משתמש במטא-דאטה ובחתימות קריפטוגרפיות כדי להעביר מידע על התוכן באופן מאובטח.
גישה רב-שכבתית לזיהוי מקור התוכן עם Google SynthID
בנוסף למטא-דאטה של C2PA, OpenAI משיקה גישה רב-שכבתית לזיהוי מקור התוכן באמצעות Google SynthID, שמוסיפה שכבת סימון מים בלתי נראית לתמונות. סימון המים הזה תומך במטא-דאטה ומסייע להבטיח שהמידע על מקור התוכן ישרוד שינויים כמו שינוי פורמט או צילום מסך.
כלי אימות ציבורי
OpenAI מציגה כלי אימות ציבורי שמאפשר למשתמשים לוודא אם תמונה נוצרה באמצעות כלי החברה, כולל ChatGPT ו-OpenAI API. הכלי בודק אם התמונה מכילה סימני זיהוי כמו 'אישורי תוכן' ו-SynthID, ומסייע למשתמשים להבין האם התוכן נוצר על ידי AI.
מבט לעתיד
החברה מדגישה ששום טכניקת זיהוי מקור אינה מושלמת בפני עצמה. OpenAI מאמינה כי השילוב של סטנדרטים משותפים, סימוני מים עמידים, וכלי אימות ציבורי יוביל למערכת זיהוי מקור יותר אינטראופרטיבית ובטוחה.
השלכות לעסקים קטנים בישראל
בעסקים קטנים ובינוניים בישראל, הבנת מקור התוכן חשובה במיוחד בעת יצירת תוכן שיווקי. כלים כמו אלו ש-OpenAI מציעה יכולים לסייע לעסקים לוודא את אמינות התוכן שהם משתמשים בו, ובכך לשפר את האמון בקרב הלקוחות שלהם.
המאמר הזה מבוסס על דיווח של OpenAI Blog.
מבוסס על OpenAI Blog: https://openai.com/index/advancing-content-provenance