בינה והטיה: עיון ביקורתי ביצירתיות של בינה מלאכותית ובהיתכנותה / ערן הורוביץ

במאמר זה נבחן היחס התרבותי והטכנולוגי להטיות באלגוריתמים של בינה מלאכותית יוצרת. המאמר מראה כיצד מגמות של העלמת הטיה כוללות בתוכן כפילות: מצד אחד הן חלק מפרויקט נאור של מניעת אפליה, ומצד שני הן מגבילות את האופן שבו מודלי שפה גדולים עשויים להיות יצירתיים או חדשניים. בהמשך מציג המאמר את האופן שבו הטיות הן הכרחיות למודלים כאלה, בעיקר כאשר הם מתבקשים לייצר תוכן שאינו מסתבר מתוך בקשות המשתמש באופן דדוקטיבי. בתוך כך, המאמר מזהה נטיות אנתרופומורפיות בתוך המחקר והפיתוח של מודלי השפה, ומזהה כיצד הגדרות אלה עשויות להגביל את היווצרותן של סביבות הרואות ביצירתיות תכונה אנושית שיש לחזק ולא לחקות או להחליף. החלק השלישי של המאמר מציע מסגרות רעיוניות למחשבה על סוג כזה של שילוב ביקורת בתוך הסביבה האלגוריתמית, החל מסביבת העבודה וחוויית המשתמש, דרך האופן שבו ניתן לפתח מחדש מנגנונים אבולוציוניים של יצירתיות, ועד הגדרת התכונה היצירתית אצל המשתמש בהם: הטעם.