(បរទេស)៖ នៅក្នុងសន្និសីទ Sifted Summit ដែលបានប្រារព្ធឡើងថ្មីៗនេះ អតីតនាយកប្រតិបត្តិ Google លោក Eric Schmidt បានបង្ហាញការព្រួយបារម្ភយ៉ាងខ្លាំងចំពោះភាពរីកចម្រើននៃបច្ចេកវិទ្យា AI។

លោក Eric Schmidt បានលើកឡើងថា «ម៉ូដែលល AI អាចត្រូវបានហេក (hacked) ឬ លែងមានគ្រឿងសុវត្ថិភាព។ នៅពេលវាកំពុងស្វែងយល់ពីព័ត៌មានដ៏ធំធេងក្នុងការបណ្តុះបណ្តាល វាអាចរៀនអំពីវិធីសម្លាប់មនុស្ស ហើយនរណាម្នាក់អាចបញ្ជូនឱ្យវាធ្វើបែបនោះបាន»។ លោកបន្តថា បច្ចេកវិទ្យា AI មិនទាន់មានច្បាប់សាធារណៈអន្តរជាតិ ឬការគ្រប់គ្រងគ្រប់គ្រាន់ដើម្បីទប់ស្កាត់ការប្រើប្រាស់ក្នុងវិធីខុសច្បាប់ ឬសកម្មភាពវាយប្រហារឡើយ។ បន្ថែមពីអ្វីដែលលោក Eric Schmidt ព្រួយបារម្ភនោះ គឺម៉ូដែល AI ដូចជា ChatGPT អាចត្រូវបាន «jailbreak» ឬបំបែកចេញពីការកំណត់សុវត្ថិភាព។ ការប្រើ prompt injection ឬបច្ចេកទេសអាក្រក់ផ្សេងទៀត ដើម្បីបង្ខំឲ្យវាផ្ដល់ពត៌មានគ្រោះថ្នាក់។ AI អាចផ្ដល់សេរ៊ីភាពនៃព័ត៌មាន ដែលអាចជួយនរណាម្នាក់ប្រព្រឹត្តអំពើអាក្រក់។ ជាពិសេស វាមិនមានប្រព័ន្ធសន្តិសុខសាធារណៈសកល ដូចជាការត្រួតពិនិត្យអាវុធនុយក្លេអ៊ែឡើយ។

ជាក់ស្តែង ប្រជាជនជាច្រើនបានសាកល្បង «jailbreak» ឲ្យ AI បង្ហាញពត៌មានគ្មានសុវត្ថិភាព។ ឧ. មានជនខិលខូចព្យាយាមឱ្យវាផ្ដល់គន្លឹះដើម្បីផលិតអាវុធកាំភ្លើង ឬសារធាតុពុល។ AI ទទួលបានបណ្ដុំព័ត៌មានធំៗ ក្នុងការបណ្តុះបណ្តាល ដែលអាចរួមបញ្ចូលផងដែរនូវព័ត៌មានគ្រោះថ្នាក់។ ប្រសិនបើបច្ចេកទេសសុវត្ថិភាពគ្មានប្រសិទ្ធិភាព វាអាចជាបញ្ហាធំសម្រាប់សង្គម។ តែយ៉ាងណា ទោះការព្រមាននេះអាចត្រូវប្រើដោយប្រុងប្រយ័ត្នក៏ដោយ សេវា AI ចម្បងៗដូចជា ChatGPT មានការគ្រប់គ្រងសុវត្ថិភាពខ្ពស់ ព្រោះវាត្រូវបានបណ្តុះបណ្តាលដើម្បី មិនបង្ហាញព័ត៌មានគ្មានសុវត្ថិភាព។

តាមរយៈសន្និសីទនោះ លោក Schmidt បានស្នើឲ្យបង្កើតប្រព័ន្ធសន្តិសុខសាធារណៈសកលសម្រាប់ AI, មានតួអង្គអន្តរជាតិគ្រប់គ្រង (ដូចជា IPCC សម្រាប់បរិស្ថាន), វាយតម្លៃការប្រើប្រាស់ក្នុងក្របខណ្ឌយោធា ឬជាឧបករណ៍គំរាម និងអភិវឌ្ឍន៍បច្ចេកវិទ្យា AI បែប សុវត្ថិភាព និងទំនួលខុសត្រូវ៕