טעימות עיקריות:

• מחוקקים סינים הבינו את התפקיד המרכזי של האלגוריתמים בהפעלת פלטפורמות אינטרנט, והגדירו זאת כ"קבלת החלטות אוטומטית" בחוק הגנת המידע האישי (PIPL) שנחקק ב-20 באוגוסט 2021, והסדיר את הטכנולוגיה הזו בפעם הראשונה.
• על פי ה-PIPL, הפלטפורמות יעריכו את ההשפעה של אלגוריתמים מראש, והן אחראיות לתוצאות של קבלת ההחלטות לאחר מכן.
• ה-PIPL מרחיב את הזכות לדעת על משתמשי הפלטפורמה, ומחייב את הפלטפורמות לשבור את "פקעות המידע" שנוצרו על ידי המלצות מותאמות אישית אלגוריתמיות למשתמשים.

חוק הגנת המידע האישי של סין (个人信息保护法), שנחקק באוגוסט 2021, משרטט את הגבולות לפלטפורמות אינטרנט המבצעות קבלת החלטות אוטומטיות באמצעות אלגוריתמים.

Ⅰ. רקע כללי

פלטפורמות אינטרנט סיניות, בדרך כלל TopBuzz ו-TikTok של ByteDance, משתמשות רבות באלגוריתמי המלצות כדי לדחוף תוכן ומוצרים למשתמשים שלהן.

עם זאת, אלגוריתמים כאלה, שלכאורה הפריעו לזכויות המשתמשים לקבל החלטות חופשיות ובכך יצרו סיכון מוסרי, מוטלים בספק על ידי הציבור והרגולטורים.

מחוקקים סיניים הבינו את התפקיד המרכזי של אלגוריתמים בהפעלת פלטפורמות כאלה, והגדירו אותו כ"קבלת החלטות אוטומטית" בחוק הגנת מידע אישי (להלן "ה-PIPL") שנחקק ב-20 באוגוסט 2021, המסדיר את הטכנולוגיה הזו עבור פעם ראשונה.

בהתאם ל-PIPL, קבלת החלטות אוטומטית מתייחסת לפעילויות של ניתוח והערכה אוטומטית של הרגלי התנהגות, תחביבים או מצב פיננסי, בריאותי ואשראי של אנשים באמצעות תוכנות מחשב וקבלת החלטות לגביהם. (סעיף 73)

לפני כן היו דעות חלוקות לגבי אחריות הפלטפורמות לקבלת החלטות אוטומטיות. לדוגמה, כמה אנשים האמינו שהפלטפורמות לא צריכות להיות אחראיות לתוצאות האלגוריתמים האוטומטיים של קבלת ההחלטות שלהן, שהיו בעצם סוג של טכנולוגיה ניטרלית. עם זאת, ה-PIPL מבהיר את ההיפך.

Ⅱ. הגבלות על פלטפורמות

1. הרגולטורים בודקים ישירות את האלגוריתמים

כמעבדי מידע אישי, פלטפורמות יבדקו את התאימות של עיבוד המידע האישי שלהן לחוקים ולתקנות מנהליות על בסיס קבוע. (סעיף 54)

זה מחייב פלטפורמות לבקר מעת לעת את קבלת ההחלטות האוטומטית האלגוריתמית שלהן ופעילויות עיבוד מידע אחרות.

על פי הכלל, הרגולטורים יכולים לבצע גם ביקורות פנימיות על תפעול האלגוריתמים של הפלטפורמות, במקום פיקוח חיצוני על מעשי הפלטפורמות וההשלכות בלבד.

בהתאם לכך, הרגולטורים מייצרים את האלגוריתמים כאובייקט הרגולציה הישיר, מה שמאפשר לרגולטורים להתערב בטכנולוגיה ובפרטים של קבלת החלטות אוטומטיות.

2. פלטפורמות מעריכות מראש את השפעת האלגוריתמים 

כמעבדי מידע אישי, הפלטפורמות יערכו מראש הערכת השפעה על הגנת מידע אישי ויתעדו את המידע העיבוד אם הן משתמשות במידע אישי לצורך קבלת החלטות אוטומטית. (סעיף 55)

ההערכה על ידי פלטפורמות תכסה את הדברים הבאים:

א. האם המטרות, השיטות או כל היבט אחר של עיבוד המידע האישי הן חוקיות, לגיטימיות והכרחיות;

ב. ההשפעה על זכויות ואינטרסים אישיים ורמת הסיכון; ו

ג. האם אמצעי ההגנה האבטחה שננקטו הם חוקיים, יעילים ותואמים את רמת הסיכון.

בהתאם לכך, הפלטפורמות יערכו הערכה מוקדמת לפני שהאלגוריתמים של קבלת החלטות אוטומטיות יעלו לאוויר. הערכת הסיכונים כוללת את הלגיטימיות והנחיצות של קבלת ההחלטות האוטומטית האלגוריתמית, כמו גם את ההשפעה והסיכון שלה.

קבלת החלטות אוטומטית אלגוריתמית לקויה מפלטפורמות עלולה לגרום לפגיעה ברכושם ובזכויות האישיות של האזרחים, אפילו באינטרסים הציבוריים ובביטחון הלאומי.

לכן, ההשלכות השליליות עשויות להשפיע על אלפי משתמשים. בשלב זה, למרות שהפלטפורמות נתונות באחריות, ייתכן שיהיה קשה לשחזר את הנזק שכבר נגרם.

כדי למנוע מצב כזה, קובע החוק מערכת הערכה מוקדמת לאלגוריתמים של פלטפורמות בניסיון להתערב באלגוריתמים מראש.

3. פלטפורמות אחראיות לתוצאות קבלת ההחלטות לאחר מכן

הפלטפורמות ייקחו על עצמם את החובות הבאות לתוצאות של קבלת החלטות אוטומטיות (סעיף 24):

א. הפלטפורמות יבטיחו שהתוצאות יהיו הוגנות וחסרות פניות

כאשר מעבדי מידע אישי מבצעים קבלת החלטות אוטומטית עם מידע אישי, הם יבטיחו שקיפות של קבלת ההחלטות והגינות וחוסר משוא פנים של התוצאות, ולא יתנו יחס שונה בלתי סביר ליחידים מבחינת מחירי העסקאות או תנאי עסקה אחרים.

ב. פלטפורמות יספקו אפשרויות קבלת החלטות אוטומטיות שאינן מתמקדות במאפיינים אישיים למשתמשים שלהן.

כאשר מסירת מידע מבוססת דחיפה או שיווק מסחרי ליחידים מתבצעת באמצעות קבלת החלטות אוטומטית, אפשרויות שאינן מכוונות למאפיינים האישיים של האנשים או דרכים קלות לסרב לקבל יינתנו ליחידים בו-זמנית.

ג. הפלטפורמות יביאו הסברים על תוצאות קבלת ההחלטות.

כאשר החלטה שיש לה השפעה מהותית על זכויות ואינטרסים של אדם מתקבלת באמצעות קבלת החלטות אוטומטית, תהיה לאדם הזכות לבקש ממעבד המידע האישי לספק הסברים, וכן הזכות לסרב לקבל החלטות של מעבד המידע האישי אך ורק באמצעות קבלת החלטות אוטומטית.

הכלל מטיל אחריות על פלטפורמות לתוצאות של קבלת החלטות אוטומטיות, כולל:

ת. הכלל אינו מכיר בהגנה על "נייטרליות טכנולוגית" בה השתמשו הפלטפורמות. פלטפורמות צריכות להיות אחראיות לתוצאות של קבלת ההחלטות האוטומטית האלגוריתמית ועליהן להבטיח שהתוצאות הוגנות והגיוניות.

ב. הכלל מרחיב את הזכות לדעת על משתמשי הפלטפורמה. המשתמשים יכולים לבקש את השקיפות של תוצאות קבלת ההחלטות האוטומטיות וכן הסברים מפלטפורמות במקרה של "השפעה מהותית".

ג. הכלל מחייב פלטפורמות לשבור את "פקעות המידע" שנוצרו על ידי המלצות אישיות אלגוריתמיות למשתמשים, ומחייב פלטפורמות להגן על זכותם של המשתמשים לדעת.

III. הערותינו

סין עשתה פריצת דרך ב-PIPL על ידי הוספת כללים משפטיים לאלגוריתמים של פלטפורמות לקבלת החלטות אוטומטיות. עם זאת, זה עדיין צריך להיות משוכלל יותר. לדוגמה, החוק אינו מבהיר:

א. תנאים לפלטפורמות ליזום הערכת אלגוריתם.

ב. האם ובאיזו מידה יפורסמו דוחות ההערכה לאחר שהפלטפורמות יעריכו את האלגוריתמים שלהן, וכן 

ג. כיצד פלטפורמות צריכות להיות אחראיות לנזק שנגרם עקב קבלת ההחלטות האוטומטית האלגוריתמית שלהן.

אני מניח שהרגולטורים הסיניים עדיין בוחנים את האפשרות לחוקק שורה של תקנות ספציפיות להמשך יישום ה-PIPL.

תמונה על ידי דרך טיול עם ראג ' on Unsplash

תורמים: גודונג דו 杜国栋

שמור כ- PDF