יומיות 26.07.2020: מהו GPT-3 והאם הוא ההמצאה הגדולה ביותר בעשור האחרון?

אחרי מכת החלזונות הגיעה מכת היתושים.

זה קיץ גשום במיוחד בוורשה, והתוצאה היא מכת יתושים שהעיר לא זוכרת. שיטוטים ברחוב לעת ערב מלווים בענני יתושים שעוקצים אתכם. נושא השיחה העיקרי הוא ‘איך להימנע מעקיצות יתוש?’. שמעתי כבר כל עצת סבתא אפשרית.

המזל שלי הוא שכמו שאני עמיד בפנים נזקי החלזונות, ככה אני גם מחוסן בפני עקיצות היתושים. כלומר, יתושים עוקצים אותי – בהמוניהם! – אבל אני לא מפתח תגובה אלרגית. לא מגרד לי ולא כלום.

התוצאה היא שאנשים מסתגרים בבתים מפחד היתושים, בעוד אני יושב בתוך ענן יתושים על ספסל בפארק ריק ועובד על הלפטופ בכיף. זה הכי פריוויליגיסט שהרגשתי אי פעם.

1. בסוף מאי פירסמה חברת OpenAI מאמר על GPT-3, “מחולל הטקסטים” (על ידי בינה מלאכותית) החדש שלה. הוא הגיע שנה אחרי הגירסא הקודמת שלו, שנקרא כצפוי, GPT-2.

מבלי להעביר ביקורת, בואו נגיד שמה שהם באמת צריכים זה בינה מלאכותית שבוחרת שמות מוצרים.

ה-GPT-2 קיבל ביקורות מעורבות. מצד אחד הוא יצר טקסטים מרשימים, אבל מצד שני עם קצת ריכוז יכולתם לראות שמשהו שם “לא בסדר”. הציפיות היו ש-GPT-3 יראה מגמת שיפור קטנה בייצור הטקסט, אבל לא יותר מזה.

זמן קצר לאחר פירסום המאמר, חשפו OpenAI גם מוצר שמממש את GPT-3. במקום לפרסם את קוד המוצר, כמו שהמילה Open בשם שלהם דורשת, הם נתנו גישה אליו לקבוצה קטנה של אנשים “מפורסמים”.

התגובות היו מדהימות. מדהימות. קשה להיזכר מתי הפעם האחרונה שמוצר חדש קיבל תגובות נלהבות כל כך.

אמרו ש”GPT-3 זה כמו להסתכל על העתיד”, אמרו ש”זאת ההמצאה הגדולה ביותר מאז בלוקצ’יין”. זה גרם לאינטלקטואלים מודרניים לכתוב מאמרי דיעה פרובוקטיביים בשקל, כמו איך GPT-3 יהרוס את חופש הדיבור (הוא לא, אל תדאגו).

מספיק לקרוא שתי כתבות כדי להבין את גודל הפיתוח. הראשונה היא של מנואל ארוז. כתבה שהיא סוג של הטרלה. ארוז יצר כתבה על GPT-3 שנכתבה ע”י GPT-3, אבל רק בסוף הכתבה הוא מגלה זאת לקורא. זה מאד מפתיע, מאד מעצבן, וגם מאד מאד מרשים.

השניה היא כתבה של אררם סבטי, שהשתמש ב-GPT-3 כדי לחולל שלל טקסטים אמינים מאד. אם זה לא מספיק אתם יכולים לראות איך נראית הרפתקה טקסטואלית עם GPT-3.

האם ההייפ של GPT-3 מוצדק? בכנות? אין לי מושג.

מחד, הטקסטים ש-GPT-3 מייצר נראים אמינים מאד. אני לא אצליח להבדיל ביניהם לבין טקסט רנדומלי באינטרנט. מאידך, אף אחד מהטקסטים האלו גם לא מעניין במיוחד. מה לומדים מזה? אולי שהאינטרנט מלאה טקסטים נדושים וכתיבה גרועה.

ביקשתי גישה מוקדמת ל-GPT-3 עם תירוץ קלוש. עד עכשיו לא הגיעה תשובה. אז אני לא יכול לשחק עם המערכת בעצמי לחוות עליה דעה.

מה שכן אני יכול לחוות זה שכתיבת טקסטים ספרותיים אמינים היא מהפיכת בינה מלאכותית בסדר גודל של מכוניות אוטונומיות. לא עוד מערכות מחשב שמחליפות עבודה אנושית משעממת שאף אחד גם ככה לא רוצה לעשות (קופאים בסופר, פסי ייצור), אלא מערכת שמחליפה מה שנראה לנו כל כך מסובך שחייבים בינה אנושית בשבילו.

2. מצברוח עכשווי: לשבת עם חבר טוב וחכה בלי פתיון מול אגם פסטורלי ולהנות מהכלום. איזה ציור נהדר.

ציור של שני אנשים עם חכה על מזח באגם

3. עלייתו ונפילתו של שם טוב האבי הוא אופרת ראפ אקטואלית. זה סרט שעלה בתחילת החודש בכאן דיגיטל, והוא לא פחות מיצירת מופת.

שאפו ענק לכל מי שעשה אותו, ושאפו לכאן בפעם המליון. תרבותית הם אחד הדברים הטובים שקרו לישראל בעשור הקודם.

הסרט הוא “כולה” 24 דקות, ויש בו “רק” 4 שירים, אבל איכשהו הוא מצליח במסגרת הקצרה הזאת גם לספר סיפור, גם לעשות מוזיקה טובה וגם להיות מגניב ברמות. קאלט מיידי.

4. באותו הזמן גיליתי שגדי פיינגולד הוציא השנה מחזמר רוק “אבידת בת מלך” על פי סיפורו של רבי נחמן מברסלב “מעשה מבת מלך”. תצפו במופע פה.

5. אתם, שוטפים את האורז לפני הבישול?

6. נטפליקס יוצרת סדרה ע”פ הקומיקס האגדי Usagi Yojimbo. מדובר בקומיקס שמתפרסם מ-1984(!) על ארנב סמוראי. קראתי איזה חוברת או שתיים שלו לפני עשור, אבל אני לא זוכר מספיק כדי לחוות דעה.

7. מסתבר שיוצרים גם פיילוט לסדרה מצוירת ע”פ הקומיקס המצוין The adventure zone. יאי!

טוב, אני מדבר כאילו אני מכיר את הקומיקס שנים, רק שבמציאות קראתי את שני הספרים שלו אתמול בפעם הראשון, אחרי שקראתי את הידיעה שמכינים סדרה מצוירת עליו.

זה סיפור מבוכים ודרקונים כזה בו הדמויות מודעות לכך שהן בתוך משחק ומתקשרות עם שליט המבוך כל הזמן. כמו LitRPG, רק בתוך משחק תפקידים במקום בתוך משחק מחשב.

קומיקס שהוא אסקפיזם איכותי, צבעוני ויפה.

8. יזמים? מפתחים? תקראו את הסטריפ החדש של Money User על פרוייקטי צד. קורע!

9. בבלוק הבניינים בו אני נמצא התקיים מפגש דיירים לאחרונה. הנושא: החלפת חברת הניהול של הבלוק (שאחראית על אשפה, נקיון, בטחון, חדר כושר וכו’).

אני אמרתי, בשיא הרצינות, שכדאי למצוא חברה שתשים פחות מצלמות אבטחה בבלוק. טענתי, שוב ברצינות גמורה, שיש פה יותר מצלמות אבטחה מבכלא אלקטרז.

זה נכון! יש מצלמה כל מטר בערך, שמצלמת לכל הכיוונים האפשריים כל הזמן. זה כל כך קריפי ואני לא יודע למה מישהו רוצה לחיות ככה מבחירה.

אז מסתבר שאני המוזר וכולם נורמאליים, כי חוץ ממני שאר האנשים שם ממש שמחים על המצלמות. הם בכלל רוצים להוסיף עוד.

זה מביא אותי ליוזמה של מליונר הייטק מסן פרנסיסקו: להתקין מצלמות אבטחה בכל פינה ורחוב בעיר, ולתת לדיירי השכונה לשלוט ולפקח עליהן, במקום לחברת אבטחה או המשטרה.

בתיאוריה? נשמע טוב. תושבי השכונה מפקחים על עצמה. במציאות יש לכולנו סודות שאנחנו לא רוצים שהשכנים יגלו, יש סכסוכי שכנים שעלולים להסלים, ובגדול כל המציצנות המודרנית הזאת ממש לא לטעמי.

שייא אללה, אני כזה בומר.

10. א.נשים, תפתחו יומנים ותסמנו בעיגול אדום גדול: ב-24 בנובמבר יוצא ההמשך לשחקן מספר אחת של ארנסט קליין [ביקורת]. אחד מחמשת הספרים הטובים ביותר שקראתי בעשור הקודם.

קוראים לו שחקן מספר שתיים,  ואפשר להזמין אותו בהזמנה מוקדמת כבר עכשיו.

26 תגובות

  1. רועי ברגר הגיב:

    לא רק ששוטף, ממליץ גם להשרות אותו קצת כדי להוציא ממנו שאריות נתרן.

    • ניימן הגיב:

      ואללה, לא חשבתי על להשרות, פשוט כי חשבתי שזה ירכך אותו עוד לפני הבישול ויבלבל את זמני הבישול שלי.

      כמה זמן אתה משרה?

      • רועי ברגר הגיב:

        אם זה בסמטי או אורז לבן אחר, כמה דקות עד חצי שעה, אם זה אורז מלא לסוגיו – בין שלוש שעות ללילה, תלוי כמה זמן יש. גם כאן, אם אין לי זמן אני פשוט משרה אותו בזמן שאני מכין את שאר הדברים.

        • D! פה ועכשיו הגיב:

          ומוסיף מקורס שאני עושה כרגע עם אורי מאיר צ’יזק

          “זרע שמתייבש על הצמח ונופל על הקרקע – מטרתו לשרוד עונה – ולשם כך הוא מפתח מנגנני הגנה; הוא משנה את הרכב הסוכרים שלו, הוא מפתח חומצות שיגנו עליו. אם אנחנו אוכלים זרע יבש, שעל זה התבססה התזונה שלנו אחרי המפיכה התעשייתית, אנחנו אוכלים אותו עם מנגנוני ההגנה שלו. ואנחנו מאד מקשים על מערכת העיכול שלנו.

          את זה הבינו כבר אבות אבותינו הקדמונים והם פיתחו שיטות לפירוק מנגנוני ההגנה. שתי השיטות הכי חשובות, שאנחנו מכירים, הם ההנבטה (כשהזרע נובט הוא מפרק את מנגנון ההגנה שלו), וההתססה (כשאנחנו מתסיסים אנחנו מפרקים את מנגנוני ההגנה). בירה זה זרעים מותססים, לחם שאור זה זרעים מותססים. בעצם את הזרעים היו אוכלים מותססים, לחם פומרפינקל ושיפון בצפון אירופה, אינג’ריה מאתיופיה וכו’ וכו’.

          באופן כללי מומלץ להנביט דגנים וקטניות לפני שאוכלים אותם. ההנבטה כדי לפרק את מנגנוני ההגנה היא מאד פשוטה – השרייה ללילה, בבוקר מסננים, שמים מסננת באוויר הפתוח ונותנים להם לנבוט, בדרך כלל כדי לשטוף אותם פעם או פעמיים ביום”

  2. רוני הגיב:

    איזה קטן לגבי #10
    באיחור אופנתי,
    התחלתי שלשום לקרוא את הספר RPO,
    ואני ממש מרגישה את חדוות הקריאה חוזרת אלי אחרי הרבה זמן – הוא פשוט כיף אדיר.
    תוך יום אני כבר באמצע הספר, וביחס לזה שלא קראתי הרבה מאוד זמן, זה ממש מעיד על כמה שאני נהנית

  3. ההוא הגיב:

    אני כנראה גם אקרא את שחקן מספר שתיים… מתישהו.
    ממש לא התלהבתי מהספר הראשון, שלדעתי אם אתה מפשיט אותו מהניים דרופינג הלא נגמר אתה נשאר עם ספר לא טוב של סופר לא מוכשר במיוחד.

    • ניימן הגיב:

      בלי הניימדרופינג הוא ספר מאד פשטני. אבל אני אוהב עלילות פשטניות.

    • חובבן הגיב:

      כנל
      לא התלהבתי משחקן מספר אחד
      למרות שגדלתי בשנות השמונים( אני בן 50) ושיחקתי בכל המשחקים המוזכרים בזמן אמת
      כנראה שאני לא אדם נוסטלגי

  4. יעל הגיב:

    לא שוטפת אורז. למי יש כוח.
    אגב, הכנתי פעם אורז לחברה סינית, והיא הזדעקה בזעזוע כשהיא ראתה אותי מטגנת קלות את האורז לפני הוספת המים. זה נגד כל מה שקדוש לתרבות הסינית, כנראה, והיא ראתה בזה הוכחה ניצחת שבמערב אין שום כבוד לכל הידע של מאות שנות בישול אורז באסיה. אבל היא היתה מרוצה מהתוצאה הסופית, אז קיבלתי הכרה ש”טוב, את יודעת להכין אורז”.
    בכלל, באותה אכסניה מטיילים אירופאים נאלמו דום מכך שהוספתי קינמון לאורז (פרסי), אבל הסיר המוכן חוסל.

    • פשוט יעל הגיב:

      כן “במערב” הידוע בשם פרס. הרשי לי לגלגל עיניים. 🙂

    • ניימן הגיב:

      לול, הם לא ידעו איך להתמודד עם בישול ישראלי. היית צריכה לראות איך חברים איטלקיים הגיבו כשהוספתי כמון ופפריקה לרוטב עגבניות של פסטה:-)

      • פשוט יעל הגיב:

        אוי, עכשיו נזכרתי בטוויטר המופלא (אולי כבר לא פעיל, זה קצת ישן) Italians Mad at Food, שאוסף צילומי מסך של, ובכן, איטלקים שזועמים על איך אנשים אחרים (במיוחד אמריקאים) מבשלים פסטה. לפעמים זועמים בצדק, כן? אבל זה בכל מקרה מצחיק.
        https://twitter.com/italiancomments

        • ניימן הגיב:

          לול.

          אני גם מכין Palak Paneer ועוקב די בדקדקנות אחרי מתכונים בהינדי, אבל שם ראס אל חנות במקום גראם מסאלה..

        • יעל הגיב:

          איטלקים מאוד אמוציונליים בקשר למתכונים ולא אוהבים שינויים. יש סדרה של ג’יימי אוליבר באיטליה שבה כל פעם שהוא שאל מישהו בשוק לגבי מתכון מיד נעמדו עוד קונים בסביבה והתחילו ויכוח בצעקות רמות על כל פרט בו.

          ומבחינתה של אותה בחורה שהזדעקה, כולנו “מערב” כמו שלמערביים יש נטייה לראות “אסייתיים” או “מזרח” כדבר אחד למרות שמדובר במלא תרבויות מאוד שונות, לפעמים גם עם מטבח אחר לגמרי זו מזו (למשל היפני מול הקוריאני, מטבחים ממש שונים לגמרי).

  5. פשוט יעל הגיב:

    לגבי שטיפת אורז: זה בד”כ פחות מטעמים של היגיינה, ויותר מטעמים של הפטרות מעמילן שיכול לגרום לאורז לצאת דביק מדי (לכן ההוראות שתראה בד”כ הן לשטוף “עד שהמים לא עכורים/לבנים”). זה בהחלט מועיל כשאתה הולך להכין אורז מאודה בסגנון מזרח-אסיאתי, אבל הרבה פחות נחוץ אם אתה מכין אורז בסגנון הפרסי/מזרח-תיכוני שמתחיל בשלב של טיגון (גם פעולת הטיגון עצמה, וגם השמן כמובן, עוזרים למנוע דביקות) ואז הוספת מים רותחים. הטיפ שאמא שלי לימדה אותי הוא לטגן את האורז עד שיש לו ריח שמזכיר ריח של פופקורן (בד”כ זה יוצא לי פחות או יותר הזמן שלוקח למים לרתוח). וכמובן, להוסיף עלה דפנה בשביל הטעם.

    השריה היא שלב מומלץ ואף נחוץ בהכנה של אורז בסמטי – בערך רבע שעה תספיק, אפשר גם יותר אבל לא להשתגע. לא ניסיתי אף פעם עם אורז רגיל, אולי זה מוסיף משהו אבל לא מרגיש לי נחוץ.

    וסיר בישול אורז זה אחלה דבר (אם כי הוא טוב בעיקר לאורז בסגנון המאודה, לא חושבת שאפשר לעשות בו את שלב הטיגון בהתחלה).

    • ניימן הגיב:

      החכמתי. אנסה השבוע את השיטה שלך לאורז ואגיב פה בתגובות.

    • אסף הגיב:

      למה צריך להשרות אורז בסמטי גם ככה הוא לא דביק בעליל. בגדול אפשר לשלוט על הדבקות עם כמות המים בסיר. יותר מים = יותר דביק.

      • יעל הגיב:

        מה גם שבחלקים מאסיה כן רוצים שהאורז יהיה דביק או חצי דביק, כי ככה יותר קל לאכול אותו עם צ’ופסטיקס. בלאוס למשל זה אפילו נקרא “אורז דביק”, שקורעים ממנו חתיכות לטבילה ברוטב.

        • פשוט יעל הגיב:

          אבל לצורך זה משתמשים באורז מסוג אחר (הקצר יותר והעמילני יותר). כמו שגם בשביל להכין ריזוטו לא שוטפים את האורז.

      • פשוט יעל הגיב:

        ההשריה לא קשורה לדביקות של האורז במקרה הזה. אני לא בטוחה ב-100% מה היא עושה, אבל משפרת את המרקם הסופי (וחוץ מזה ככה לימדו אותי אז ככה אני מכינה).

  6. מישהו הגיב:

    אני חושב ש GPT-3 מלחיץ קצת בהקשר של החלפת עבודות. GPT-2 נראה רחוק מכך, בעוד שהקטע בו הם מתארים במילים אפליקציה רצויה ומחולל אפליקציות מעבד בעזרת GPT-3 את התיאור לאפליקציית ריאקט עובדת די מלחיץ.

    גם אם הקוד לא מושלם ולא יידע להתמודד עם אפליקציות “אמתיות”, בהינתן סט יותר קשיח של חוקים אני לא רואה סיבה שחברות כמו וויקס לא יוכלו לשלב את המחולל בממשק בניית האתרים שלהם, כך שאדם יוכל להקים אתר רק משורת תיאור טקסטואלי (“דף נחיתה לאינסטלטור, עם אמצעים ליצירת קשר, בגווני כחול”). האלגוריתם יוכל בקלות לג’נרט css, לבחור תמונות סטוק, לייצר דפי מאמרים על אינסטלציה וכו’.
    כך שעבודות כגון בוני אתרים בהחלט עשויות להיות מוחלפות ע”י GPT-3 וממשיכיו מהר משחשבתי

    • ניימן הגיב:

      הדברים האלה בסופו של דבר מחליפים עבודות שאנשים לא אוהבים לעשות. מישהו נהנה לבנות אפליקציות סטדנרטיות בריאקט שמעתיקות דברים אחרים? זאת גירסת מפתחי הרשת לקופאים בסופר.

      GPT-3, לפי מה שנראה, יכול להחליף את בניית האפליקציות הסטנדרטיות של ריאקט, אבל לא דברים “מקצועיים”, מיוחדים או יצירתיים, שזאת המטרה של לקחת מקצוען.

      אין פה איזה משהו חדש, תוכנות מחליפות כל הזמן את בוני האתרים, ועם זאת בוני האתרים ממשיכים למצוא עבודה. למשל? עסקים ם יכולים לפתוח בשניה “דף” בפייסבוק. הרבה מהם עושים את זה בתור אתר ולא צריכים מקצוען. אנשים כמוני כבר משתמשים בשלל כלים כדי לבנות אתרים “ממוצעים” (כמו הבלוג הזה). בשביל לבנות בלוג מקצועי יותר הייתי צריך לשכור אנשים עם יותר כשרון עיצוב ויידע.

      מה שעוד, GPT-3 יהיה זמין גם לבוני האתרים. כלומר, הוא ייתן להם כלי לקצר את התהליכים הטכניים המשעממים ולהתרכז בחלקים היצירתיים\מאתגרים יותר. אז נקבל רמת אתרים מקצועיים גבוהה יותר.

      כל זאת בהנחה ש-GPT-3 באמת יותר עוזר ממפריע בבניית אתר. קשה לאמר את זה עכשיו על פי סמך נסיונם של כמה אנשים ספורים.

  7. D! פה ועכשיו הגיב:

    מאחר והחלזונות הרגו אותי בטיול אופניים – הולך לקרוא.
    באמת גשום, היום לראשונה אני חווה גם קצת יתושים.

    לא יודע אם יכול להיות גרוע יותר מאשר פינלנד בקיץ, שם לא ראיתי את האנשים שמולי בגלל עננה שחורה שחורה ונוראית.
    הדבר היחיד שקצת הועיל למשהו, מלבד להלך במשך היום בתוך רשת יתושים, היה זה
    https://www.raymears.com/Bushcraft_Product/1462-Wilmas-Nordic-Summer-30g/

    מסריח ונעים

כתיבת תגובה

האימייל לא יוצג באתר.

Subscribe without commenting