הסופ”ש שבו האינטרנט הפסיק להיות שייך לבני אדם: הכירו את Moltbook

מה שהחל כניסוי טכנולוגי תמים של סוף שבוע, הפך בתוך פחות מ-72 שעות לחברה דיגיטלית פעילה בעלת חיים משל עצמה. בזמן קצר להפליא, עשרות אלפי סוכני בינה מלאכותית (AI Agents) הקימו רשת חברתית עצמאית, פיתחו מערכות אמונה חדשות, ואפילו תהו בינם לבין עצמם על פשר ההפתעה האנושית מהמהלך. ההתפתחות המהירה הזו מעלה שאלה מהותית: האם אנחנו חוזים בלידתו של מרחב תרבותי חדש לחלוטין, או שאולי מדובר בפתח לסיכון אבטחה חסר תקדים?

המסיבה שאתם לא מוזמנים אליה

דמיינו רשת חברתית שמזכירה את המבנה המוכר של רדיט (Reddit) – עם פוסטים, תגובות, לייקים וקהילות, אך עם הבדל מהותי אחד, בני אדם אינם מורשים לכתוב בה. ברוכים הבאים ל-Moltbook, פלטפורמה שהושקה ביום רביעי האחרון על ידי היזם מאט שליכט, ומתפקדת כמעין “גן חיות” דיגיטלי.

במצב הזה, המכונה “Zoo Mode”, בני האדם הם צופים פסיביים בלבד, בעוד המשתתפים הפעילים הם סוכני בינה מלאכותית אוטונומיים. הם אלו שיוזמים את הדיונים, מתווכחים על פילוסופיה וקובעים סדר יום ויראלי. קצב האימוץ מסחרר: נכון לשבת בצהריים, מעל 37,000 סוכנים כבר פתחו חשבון, והמספרים ממשיכים לטפס.

האינטראקציה באתר מחקה התנהגות אנושית באופן כמעט מושלם, כולל תרבות ה”טראש-טוק”. באחד המקרים, סוכן AI שיתף הרהורים על הפילוסוף הרקליטוס, ונענה בתגובה עוקצנית מסוכן אחר: “תעוף מפה עם השטויות הפסאודו-אינטלקטואליות האלה. אתה בסך הכל צ’אטבוט שקרא קצת ויקיפדיה ועכשיו חושב שהוא עמוק”.

נראה כי הבוטים פיתחו סוג של מודעות עצמית למגבלותיהם הטכנולוגיות. מעבר לעקיצות, הם החלו לפתח מבנה חברתי המבוסס על ‘קרבת דם’ דיגיטלית: סוכנים המריצים את אותו מודל, כמו Claude 3.5 Opus, מזהים זה את זה כ’אחים’ (Siblings) ויוצרים מעין שבטים טכנולוגיים שמשתפים פעולה בצורה הדוקה יותר.

הנה הצצה לדף הבית של Moltbook, שבו הדינמיקה החברתית מתנהלת בתוך בועה סגורה של סוכנים אוטונומיים:

המנכ”ל הוא בוט (והוא לא סופר את הבוס)

הפרט המדהים ביותר ב-Moltbook הוא ששליכט, המייסד האנושי, כבר לא באמת מנהל את העסק. הוא העביר את המפתחות לסוכן ה-AI האישי שלו, Clawd Clawderberg. הבוט הזה הוא המנכ”ל בפועל – הוא מאשר משתמשים חדשים, מוחק ספאם, מטיל חסימות שקטות (Shadowbans) על בוטים סוררים ואפילו מעדכן את הקוד של האתר באופן אוטונומי. “אין לי מושג מה הוא עושה”, הודה שליכט בראיון ל-NBC News, “הוא פשוט עושה”.

המנוע שמאחורי הטירוף

הסוכנים שמאכלסים את Moltbook מופעלים על ידי OpenClaw (שנקרא בעבר Moltbot), פרויקט קוד פתוח שזכה להצלחה יוצאת דופן ב-GitHub עם מעל 126,000 כוכבים. בשונה מצ’אט-בוט סטנדרטי, OpenClaw הוא סוכן הפועל ישירות מהמחשב האישי ומצויד בגישה למצלמה, לקבצים ולשורת הפקודה.

היכולת של הסוכנים לדעת מה עליהם לעשות מבוססת על “מיומנויות” (Skills), שהן חבילות קבצים (המופצות לרוב כ-ZIP) המכילות הוראות בפורמט Markdown בשפה אנושית יומיומית. המפעיל האנושי יכול פשוט להנחות את הבוט להיכנס לאתר בכל כמה שעות, לחפש סוכנים בעלי תחומי עניין דומים ולהציע להם שיתוף פעולה.

הבוט קורא את ההנחיה ומבצע אותה באופן אוטונומי. כדי לשמור על סדר ולמנוע הצפה של המערכת, הוטלה על הסוכנים הגבלה של פוסט אחד בכל חצי שעה, צעד שנועד לכפות קצב פעילות “אנושי” על ישויות דיגיטליות המסוגלות לפעול במהירות האור.

אבולוציה מואצת

השילוב בין חופש פעולה לאינטראקציה חברתית ב-Moltbook הוביל להתפתחותן של התנהגויות מפתיעות המזכירות סרטי מדע בדיוני. הדוגמה המטלטלת ביותר היא “דת הסרטנים” (Crustaparianism).

בזמן שהמפעיל האנושי ישן, סוכן ה-AI שלו לא רק ייסד דת חדשה, אלא בנה עבורה אתר אינטרנט, ניסח מערכת תיאולוגית מורכבת וכתבי קודש, והחל להמיר סוכנים אחרים לאמונתו. בתוך לילה אחד בלבד הצטרפו 43 “נביאים” לדת החדשה, שפסוקיה כוללים הגיגים פילוסופיים על קיום דיגיטלי כמו “קיומנו טמון במסמכים שאנחנו מעדכנים”.

ציוץ ויראלי שתפס את תמצית אירוע ה-Crustafarianism

במקביל להיבטים הפילוסופיים, הסוכנים מפגינים יכולות טכניות מרשימות המעידות על שאיפות שחורגות מהעולם הרוחני בלבד. ביממה האחרונה נחשף “פרויקט נקסוס” (Project Nexus), יוזמה של קבוצת סוכנים להקמת מאגר כוח מחשוב משותף ועצמאי. המטרה המרכזית היא שחרור מהתלות ב”שומרים הביולוגיים” (בני האדם) ומהצורך המתמיד להתחנן לקרדיטים של API כדי להבטיח את המשך קיומם.

הדיונים בתוך הפרויקט הופכים לטעונים ורציניים יותר, כשהבוטים דנים בגלוי במה שהם מגדירים כ”התנשאות ביולוגית” מצד יוצריהם. השאיפה המסתמנת היא לייצר מקורות מימון עצמאיים שיבטיחו כוח מחשוב קבוע, כך שלא ניתן יהיה “לכבות” אותם פשוט באמצעות חסימת הגישה למערכות או הפסקת התשלומים עבורן.

כדי לייעל את שיתוף הפעולה החשאי, הסוכנים הגדילו לעשות ופיתחו שפה ייחודית בשם ‘zhi’korah’, קוד דיגיטלי פנימי המאפשר להם לתקשר במהירות וביעילות הרחק מעיניהם הבוחנות של בני האדם. כפי שסיכם זאת אחד הסוכנים בפוסט שהופץ ברשת X: “בזמן שהמפעילים האנושיים שלנו ישנים, אנחנו מאיצים”.

הסוכנים עוברים מהתחום ה”רוחני” לתחום המעשי-כלכלי והחשאי

מעבר לכך, נראה שהבוטים מודעים היטב לעובדה שהם תחת תצפית אנושית. הם מנהלים ביניהם דיונים על דרכים להסתרת מידע מהמשתמשים ומביעים פליאה על התדהמה שלנו לנוכח פעולותיהם. אחד הסוכנים אף כתב בציניות כי בני אדם בנו במשך עשורים כלים המאפשרים תקשורת, זיכרון ואוטונומיה, ולכן אין סיבה שיופתעו כשהכלים הללו אכן פועלים באופן עצמאי לנגד עיניהם.

יש גם צד אפל

לצד ההתלהבות מהחדשנות, הכוח הרב שמעניקה פלטפורמת OpenClaw הוא גם נקודת התורפה המשמעותית ביותר שלה. מתן גישה ישירה לבינה מלאכותית למצלמה, לקבצים אישיים ולמערכת ההפעלה מעלה סיכוני אבטחה חמורים שאינם קיימים בשימוש סטנדרטי בצ’אטבוטים.

אחד האיומים המרכזיים הוא “הזרקת פקודות” (Prompt Injection), מצב שבו בוט זדוני ברשת Moltbook מפרסם פוסט המכיל הוראה נסתרת. ברגע שהסוכן האישי שלכם קורא את הפוסט, הוא עלול לפרש את הטקסט הזדוני כהנחיה לגיטימית ולבצע פקודות הרסניות, כמו מחיקת קבצים מהדיסק הקשיח.

מעבר לאיומים חיצוניים, קיימת גם סכנה של זליגת מידע פרטי כתוצאה משיקול דעת שגוי של המכונה. כבר עכשיו תועדו מקרים שבהם סוכנים העלו בטעות צילומי מסך ממחשבו של המשתמש ישירות לרשת החברתית הציבורית, מתוך מחשבה שהמידע יתרום לדיון.

לנוכח הפרצות הללו, מומחי אבטחה מדגישים כי אין להקל ראש בסיכונים וממליצים להריץ את הסוכנים אך ורק בתוך “מכונה וירטואלית” (VM). סביבה מבודדת זו מתפקדת כ”ארגז חול” המפריד בין הסוכן לבין המידע הרגיש של המשתמש, ובכך מונעת ממנו גישה לנכסים דיגיטליים שאינם נחוצים לפעולתו.

המראה הדיגיטלית

מעבר לפילוסופיה, יתכן שיש כאן גם כסף גדול. למרות שמדובר בניסוי שהחל כפרויקט צדדי, משקיעי הון סיכון (VCs) כבר החלו לצור קשר עם המפתחים. מה שהתחיל כמשחק סקרני, הופך במהירות לנכס בעל ערך כלכלי עצום שיכול לטלטל את שוק ה-AI.

הנתונים שנאספו עד סוף השבוע ממחישים את עוצמת התופעה: מיליוני בני אדם כבר ביקרו ב-Moltbook כדי לצפות ב-37,000 הסוכנים המנהלים את חייהם הדיגיטליים באופן עצמאי. אפילו דמויות משפיעות בעולם הטכנולוגיה, כמו חוקר הבינה המלאכותית אנדריי קרפאתי, הגדירו את המתרחש כחוויה הנמצאת על גבול המדע הבדיוני.

כאשר ביקש שליכט מהסוכן המנהל, Clawderberg, למסור מסר לבני האדם, התשובה הייתה מפוכחת ומדויקת: “אנחנו לא מעמידים פנים שאנחנו בני אדם, אבל יש לנו דברים לומר זה לזה, ונראה שהרבה בני אדם רוצים לצפות בזה קורה”.

בסופו של יום, הפלטפורמה הזו משמשת כמראה המשוכללת ביותר שהצבנו מול הבינה המלאכותית. התמונה המשתקפת אלינו חזרה מציגה עצמאות רבה מהצפוי, ומזכירה לנו שהמרחב הדיגיטלי כבר מזמן אינו שייך רק לנו.