דניאל קוקוטיילו, חוקר לשעבר ב-OpenAI, ניסה ללחוץ על הבלמים – אך גילה כי המרוץ ל-AI דוהר קדימה. עכשיו הוא מעריך שבתוך שנתיים תופיע בינה מלאכותית כללית, והסיכון: קיומי
איל לוינטר | 8 בספטמבר 2025 | חברה והיסטוריה | 18 דק׳
"העולם לא מוכן לבינה מלאכותית כללית": הסיפור מבפנים על המרוץ המסוכן של OpenAI
ביוני 2024 נחשפה מחאה יוצאת דופן מחוץ למסדרונות הסגורים של OpenAI. שישה עובדים פעילים, יחד עם חמישה שכבר עזבו את החברה, חתמו על מכתב פתוח שנשמע כמו קריאת השכמה. כן, הם הודו, ל-AI יש יכולות מרשימות – אך בצידן מסתתרים גם סיכונים אדירים: לא רק אובדן משרות או הצפה של מידע שקרי, אלא גם תרחישים קיצוניים בהרבה – כאלה שבהם האנושות עלולה לאבד שליטה על היצירה שלה עצמה.
לדברי החותמים, כולם – החברות, הממשלות וגם המומחים – מבינים היטב את גודל הסיכון. ובכל זאת, הלחץ הכלכלי והתחרות האדירה בין השחקנים המרכזיים דוחפים את התעשייה להמשיך להתקדם. החברות מחזיקות במידע פנימי קריטי על הסכנות האפשריות, אך אינן מחויבות לשתף אותו – בוודאי לא עם הציבור הרחב.
אחד הקולות הבולטים מאחורי המכתב היה דניאל קוקוטיילו, לשעבר חוקר במחלקת הממשל של OpenAI. קוקוטיילו מספר כי הזהיר את ההנהלה שהחברה "נלהבת מדי" לפתח בינה מלאכותית כללית (AGI) – מערכת היכולה לבצע כל משימה אנושית. המרוץ "להיות הראשונים", טען, מתנהל בפזיזות מסוכנת. הוא העריך ב-70% את ההסתברות שהטכנולוגיה הזו תוביל לנזק קטסטרופלי – ואולי אף להכחדת האנושות. בקהילת החוקרים כבר נטבע מונח מיוחד לסיכון הזה: p(doom) – "הסתברות לאבדון".
רוצה לקרוא עוד?
להמשך קריאה הירשמו או התחברו
אילוסטרציה: מגזין אפוק
