השלכות של ChatGPT

בתחום אבטחת הסייבר

צ'ק פוינט ריסרץ' ואחרים ציינו ש-ChatGPT היה מסוגל לכתובפישינגמיילים ותוכנות זדוניות, במיוחד בשילוב עםקודקס OpenAIמנכ"ל OpenAI כתב כי קידום תוכנה עלול להוות "(לדוגמה) סיכון סייבר עצום" וגם המשיך לחזות "נוכל להגיע ל-AGI אמיתי (בינה כללית מלאכותית) בעשור הבא, ולכן עלינו לקחת את הסיכון הזה ברצינות רבה". אלטמן טען כי בעוד ש-ChatGPT "ברור שאינו קרוב ל-AGI", יש "לסמוך עלאקספוננציאלישטוח במבט לאחור,מבט אנכי קדימה".

באקדמיה

ChatGPT יכול לכתוב מבוא ותקצירים של מאמרים מדעיים, דבר שמעלה שאלות אתיות. מספר מאמרים כבר רשמו את ChatGPT כמחבר שותף.

בהאוקיינוס ​​האטלנטימָגָזִין,סטיבן מארצ'הציין כי השפעתו על האקדמיה ובמיוחדחיבורי בקשהטרם הובן. דניאל הרמן, מורה תיכון וסופר מקליפורניה, כתב כי ChatGPT יבשר את "סוף האנגלית בתיכון". ב...טֶבַעבכתב העת, כריס סטוקל-ווקר ציין כי על מורים להיות מודאגים מכך שתלמידים משתמשים ב-ChatGPT כדי להוציא את כתיבתם למיקור חוץ, אך ספקי חינוך יתאימו את עצמם כדי לשפר את החשיבה הביקורתית או הנמקה. אמה באומן עםNPRכתב על הסכנה של גניבה ספרותית של סטודנטים באמצעות כלי בינה מלאכותית שעשוי להפיק טקסט מוטה או חסר היגיון בנימה סמכותית: "עדיין ישנם מקרים רבים שבהם אתה שואל שאלה והיא תיתן לך תשובה מרשימה מאוד שהיא פשוט שגויה לחלוטין."

ג'ואנה שטרן עםוול סטריט ג'ורנלתיאר רמאות באנגלית של בתי ספר תיכוניים אמריקאיים בעזרת הכלי על ידי הגשת חיבור שנוצר. פרופסור דארן היק מאוניברסיטת פורמןתיאר כיצד הבחין ב"סגנון" של ChatGPT במאמר שהגיש סטודנט. גלאי GPT מקוון טען כי 99.9 אחוז מהסבירות שהמאמר נוצר על ידי מחשב, אך להיק לא היו הוכחות מוצקות. עם זאת, הסטודנט המדובר הודה בשימוש ב-GPT כאשר התעמת איתו, וכתוצאה מכך נכשל בקורס. היק הציע מדיניות של מתן בחינה בעל פה אישית אד-הוק בנושא המאמר אם סטודנט חשוד מאוד בהגשת מאמר שנוצר על ידי בינה מלאכותית. אדוארד טיאן, סטודנט לתואר ראשון ב...אוניברסיטת פרינסטון, יצרו תוכנה בשם "GPTZero", שקובעת כמה טקסט נוצר על ידי בינה מלאכותית, וניתן להשתמש בה כדי לזהות אם חיבור נכתב על ידי בני אדם כדי להילחםגניבה ספרותית אקדמית.

החל מ-4 בינואר 2023, משרד החינוך של ניו יורק הגביל את הגישה ל-ChatGPT מאינטרנט ומכשירים של בתי הספר הציבוריים שלו.

במבחן עיוור, ChatGPT נשפט כעובד שעבר בחינות תואר שני ב-אוניברסיטת מינסוטהברמה של סטודנט C+ ובבית הספר וורטון של אוניברסיטת פנסילבניהעם ציון B עד B-. (ויקיפדיה)

בפעם הבאה נדבר על חששות אתיים של ChatGPT.