היסטוריה · מאמר
מקוד מכונה ל-ChatGPT: כיצד התכנות השתנה בשמונה עשורים
פורסם:

בקצרה
תכנות תוכנה התחיל עם מהנדסים שהגדירו הוראות בינאריות גולמיות ביד, ואז עבר דרך שפות שנבנו לאנשים - Fortran, C, Python - לפני שמערכות בינה מלאכותית של היום, שנבנו על ארכיטקטורת ה-Transformer משנת 2017, התחילו להפיק קוד וטקסט בעצמן. כתבה זו עוקבת אחרי שינוי זה דרך אבני דרך מתוארכות שאומתו על ידי IBM, חברת IEEE למדעי המחשוב, קולג' Dartmouth והעיתון המחקרי המקורי של ארכיטקטורת Transformer.
גרסה זו היא תרגום מכונה של המקור (English). לקריאת המקור
התכנות של תוכנה לא התחיל בהקלדת פקודות לשפה ברמה גבוהה. המחשבים האלקטרוניים המוקדמים ביותר הוגדרו הוראה אחר הוראה בתבניות בינאריות גולמיות שהחומרה שלהם יכלה לקרוא ישירות - מה שכעת נקרא קוד מכונה. משם, התכנות עבר דרך שפת הרכבה, ואז שפות ברמה גבוהה שנבנו לאנשים במקום למעבדים, וב-10 השנים האחרונות למערכות היוצרות את הקוד והטקסט שלהן. התאריכים והנתונים להלן מגיעים מהיסטוריית הקורפוראציה של IBM, חברת IEEE למדעי המחשוב, חשבון קולג' Dartmouth על סדנת 1956 שלה, ומאמר המחקר משנת 2017 שהציג את ארכיטקטורת ה-Transformer המשמשת בעוזרי הדו-שיח של היום.
מקוד מכונה לזיכרונות
לפי ציר הזמן שפורסם על ידי חברת IEEE למדעי המחשוב, אחת מהשפות התכנות המוקדמות ביותר הייתה Plankalkul, שפותחה על ידי המהנדס הגרמני Konrad Zuse בשנות ה-1940. עד 1949, שפת הרכבה ומערכת הנקראת Shortcode הופיעו, תוך החלפת מחרוזות ארוכות של ספרות בינאריות בקודים מנמוניים קצרים - אך עדיין היה צריך לתרגם את הקודים האלה, שורה אחר שורה, לפורמט שהמעבד יכול להפעיל.
שפות ברמה גבוהה: כתיבה לאנשים, לא למעבדים
התמורה האיצה בשנת 1957, כאשר IBM סיפקה את Fortran, קיצור של 'formula translation'. הסטוריית הפרויקט של IBM עצמה קובעת שצוות בהנהגת המתמטיקאי John Backus - שכלל את Lois Haibt, שבנתה את מנתח ביטוי חשבוני של המהדר - בילה שלוש שנים בשפה שבה צפוי בתחילה לקחת שישה חודשים. IBM אומרת שFortran הפחיתה תוכניות שדרשו בעבר בערך 1,000 הוראות קוד מכונה לכל עד 47 שורות, מה שאפשר למדענים ומהנדסים לכתוב פקודות דומות לאלגברה כגון 'DO' ו-'GO TO' במקום קידוד ישיר של החומרה. עד אמצע שנות ה-1960, Fortran הפכה לתקן חישוב לאומי, לפי IBM.
ציר הזמן של חברת IEEE למדעי המחשוב מרשים Algol ו-Lisp כהגעה בשנת 1958, ו-Cobol, שנבנה לחישוב עסקי, בשנת 1959. בשנת 1972, הצוות של Dennis Ritchie ב-Bell Labs ייצר C, שאותו ציר הזמן של IEEE מיוחס כבסיס המבנה לשפות מאוחרות יותר כולל JavaScript, PHP ו-Python. תכנות מוכוון לאובייקטים עקבו עם C++ בשנת 1983. החשבון של IEEE גם מתעד את ההשקה של Python בשנת 1991, Java, JavaScript ו-PHP בשנת 1995, Google Go בשנת 2009 ו-Apple Swift בשנת 2014.
מסלול מקביל: הוראת מכונות לחשוב
בעוד שפות ברמה גבוהה התפשטו, קו מחקר נפרד שאל האם מכונות יכולות לחקות אינטליגנציה במקום פשוט להיות עוקבות אחרי הוראות. חשבון קולג' Dartmouth שלו מתאר את פרויקט Dartmouth Summer Research Project משנת 1956, שארגן המתמטיקאי John McCarthy, שהצעתו נועדה לבדוק מה שכינה 'הקונג'קטורה שכל היבט של למידה או כל תכונה אחרת של אינטליגנציה יכול בעקרון להיות מתואר בדיוק כה גבוה שמכונה יכולה להעמיד דברים. Dartmouth זיכרה את הסדנה זו כנקודת ההתחלה של הבינה המלאכותית כשדה מחקר מוגדר.
עשרות שנים אחרי כן, המחקר הזה הייצר בדיקה ציבורית בעלת צפייה גבוהה. הסטוריית IBM של מחשב השחמט שלה Deep Blue קובעת כי המכונה הפסידה את המשחק הראשון שלה נגד אלוף העולם Garry Kasparov 4-2 בפילדלפיה בפברואר 1996, ואז נצחה במשחק הנעודה בניו יורק במאי 1997 בציון 3.5-2.5 - הפעם הראשונה, לפי IBM, שמחשב ניצח אלוף עולם תורן בתנאי טורניר סטנדרטיים.
בפע�� הראשונה בהיסטוריה של האנושות, ראיתי משהו דומה לאינטליגנציה מלאכותית.
ארכיטקטורת Transformer ויום הבינה המלאכותית הגנרטיבית
הארכיטקטורה מאחורי עוזרי הדו-שיח של היום ניתן לאתר לעיתון אחד משנת 2017. שמונה חוקרים - Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan Gomez, Lukasz Kaiser ו-Illia Polosukhin - פרסמו 'Attention Is All You Need' לשרת ה-preprint arXiv ב-12 ביוני 2017. העיתון הציג את ה-Transformer, המתואר בתקציר שלו כרשת המבוססת רק על מנגנוני עידוד, תוך הסרת שכבות חוזרות והתפתלות שמערכות תרגום קודמות הסתמכו עליהן. המחברים דיווחו על ציוני 28.4 BLEU בתרגום מאנגלית לגרמנית ו-41.8 BLEU בתרגום מאנגלית לצרפתית, עם הדרכה מהירה יותר מאשר דגמים קודמים.
ארכיטקטורה זו עומדת בבסיס מודלי שפה גדולים שהשתחררו משנת 2018 והלאה. OpenAI השקיעה את ChatGPT ב-30 בנובמבר 2022. לפי חשבון History.com הציטוט את מייסד OpenAI Sam Altman, השירות הגיע למיליון משתמשים תוך חמישה ימים וכ-100 מיליון משתמשים חודשיים תוך כשנתיים, וזה מה שהחשבון מתאר כהאימוץ המהיר ביותר של אפליקציית צרכנים בתיעוד בעת זו.
| שנה | אבן דרך | פרט מאומת מהמקור |
|---|---|---|
| 1956 | פרויקט Dartmouth Summer Research | ההצעה של John McCarthy לסדנה חקרה את אינטליגנציית המכונה כשאלת מחקר, לפי קולג' Dartmouth |
| 1957 | Fortran שוחרר בעסקים | צוות בהנהגת Backus של IBM הפחיתה תוכניות הדורשות בערך 1,000 הוראות קוד מכונה לכל עד 47 שורות |
| 1972 | C פותח ב-Bell Labs | הפך לבסיס המבנה לשפות מאוחרות יותר כולל JavaScript, PHP ו-Python, לפי IEEE |
| 1997 | Deep Blue מנצח את Garry Kasparov | ניצחון מחשב ראשון על אלוף עולם תורן בתנאי טורניר סטנדרטיים, לפי IBM |
| 2017 | ארכיטקטורת Transformer פורסמה | עיצוב עידוד בלבד אחר כך זיכרון GPT ו-BERT, לפי העיתון המקורי arXiv |
| 2022 | ChatGPT השתוחרר על ידי OpenAI | הגיע לכ-100 מיליון משתמשים חודשיים תוך כשנתיים, לפי נתוני OpenAI המצוטטים על ידי History.com |
על פני כמעט שמונה עשורים, כל שלב שתואר לעיל הפחית את כמות פרטי התאימות לחומרה שאדם היה צריך לכתוב ביד - מ-Plankalkul של Zuse והוראות בינאריות שנקבעו ביד, דרך פקודות דומות לאלגברה של Fortran, למודלים מבוססי עידוד המפיקים כעת קוד וטקסט מהנושאות בשפה טבעית.
שאלות
- מה הייתה השפה של תכנות ברמה גבוהה הראשונה?
- Fortran, שפותחה על ידי צוות בהנהגת John Backus החל משנת 1954 והושקעה בעסקים על ידי IBM בשנת 1957, לפי הסטוריית הפרויקט של IBM עצמה.
- מדוע שפת תכנות C הייתה משמעותית?
- פותחה ב-Bell Labs בשנת 1972, C הפכה לבסיס המבנה לשפות מאוחרות יותר בשימוש נרחב כולל JavaScript, PHP ו-Python, לפי ציר הזמן של חברת IEEE למדעי המחשוב.
- מתי הפכה הבינה המלאכותית לשדה מחקר מוגדר?
- בפרויקט Dartmouth Summer Research Project משנת 1956, שארגן John McCarthy, וחשבון קולג' Dartmouth עצמו זיכרה אותה כנקודת ההתחלה של השדה.
- מה השתנה עם העיתון 'Attention Is All You Need' משנת 2017?
- שמונה חוקרים הציגו את Transformer, ארכיטקטורה המבוססת רק על מנגנוני עידוד במקום רשתות חוזרות או מתפתלות; מאוחר יותר היא הופכת למודלים כמו GPT ו-BERT, לפי העיתון המקורי arXiv.
- מתי ChatGPT הושקה וכמה מהר הוא גדל?
- OpenAI השקיעה את ChatGPT ב-30 בנובמבר 2022; לפי מייסד OpenAI Sam Altman כמו מדווח על ידי History.com, הוא הגיע למיליון משתמשים תוך חמישה ימים וכ-100 מיליון משתמשים חודשיים תוך כשנתיים.
מקורות
כתבה זו הוכנה בעזרת בינה מלאכותית ועברה בדיקת מקורות אוטומטית לפני הפרסום. אם ראיתם טעות, בקשו תיקון. בקשת תיקון או זכות תגובה · איך אנחנו עובדים
כתבות קשורות
היסטוריהמאמר
מחליפין בסחורה למטבע דיגיטלי: איך כסף התפתח על פני תרבויות
כסף עבר מחליפין ישיר למטבעות בעלי חיים וקונכיות, ואחר כך למטבעות מתכת, שטרות נייר, ותשלומים אלקטרוניים ומטבעות דיגיטליים של בנק מרכזי כיום. כל שינוי פתר בעיה מעשית של אמון, ניידות או קנה מידה, לפי בנק אנגליה וקרן המטבע הבינלאומית.

היסטוריהידיעה
משלחת הגיעה לניקומרורו לחיפוש אחר הטיסה האבודה של אמיליה ארהרט
משלחת חקירה של 16 עד 17 חברים בהנהגת המכון למורשת ארכיאולוגית ואוניברסיטת פרדו מתקרבת לאטול הרחוק של ניקומרורו בשטח המגן של איי פניקס של קיריבאטי לבדיקת אנומליה של סונאר וחומר לוויין הנקראת 'אובייקט תאראיה', שחוקרים אומרים שעלול להיות הריסות של הטיסה של אמיליה ארהרט לוקהיד אלקטרה 10-E. הצוות עזב את טארווה, קיריבאטי ב-7 באוקטובר 2026 וצפוי להגיע לאטול סביב צהריים ב-12 באוקטובר לפי שעון מקומי, ולאחר מכן מתכננת כחמישה ימים של עבודות צלילה, הנפת בעומק וחישה מרחוק.

היסטוריהמאמר
הרנסאנס: כיצד אמנות ומדע עיצבו מחדש את אירופה, המאות ה-14-17
הרנסאנס היה תנועה תרבותית וגומנטית שהתחילה בפלורנציה של המאה הארבע-עשרה והתפשטה בכל אירופה עד המאה השבע-עשרה, החיתה את הלמידה הקלאסית והצורה מחדש את האמנות, המדע והחינוך. הוא גשר בין העולם של ימי הביניים לעולם המודרני דרך הומניזם, טכניקות אמנות חדשות כמו פרספקטיבה לינארית, ופריצות מדעיות כולל מודל מרכזיות השמש.

היסטוריהמאמר
הצלבנות מוסברת: מלחמות דתיות בימי הביניים, גורמים והשפעה מתמשכת
הצלבנות היו סדרה של מלחמות דתיות שנלחמו בעיקר בין 1095 ל-1291, שבהן ניסו הנוצרים האירופיים המערביים ללכוד או להגן על ירושלים ומקומות אחרים מפני שלטון מוסלמי. הם החלו לאחר שהקיסר הביזנטי ביקש עזרה צבאית מערבית והפך האפיפיור אורבן השני את הערעור הזה למלחמה קדושה. ההשפעות הפוליטיות, הכלכליות והדתיות שלהן עדיין עיצבות את היחסים בין העולם הנוצרי לעולם המוסלמי היום.