Занепокоєння щодо потенційної загрози від штучного інтелекту (ШІ) стало предметом жвавих дискусій серед експертів у галузі машинного навчання. Деніель Кокотайло, колишній співробітник провідної компанії OpenAI, висловив свою думку щодо цього питання.
Кокотайло переконаний, що існує значний ризик того, що розвиток ШІ може призвести до катастрофічних наслідків для людства. Під час роботи в OpenAI у 2022 році його попросили оцінити майбутній прогрес технологій. Він спрогнозував, що до 2027 року ймовірність того, що ШІ завдасть критичної шкоди світові або навіть знищить людство, стане неприпустимо високою – 70%. Настільки переконаний у своїх побоюваннях, Кокотайло особисто переконав генерального директора OpenAI Сема Альтмана посилити заходи безпеки під час роботи з нейромережами. Такий підхід, на його думку, дозволить краще контролювати розвиток технологій та знизити ризики.
“Світ не готовий, і ми не готові. І я стурбований тим, що OpenAI поспішає вперед, незважаючи на прогнози”, – писав Кокотайло у своєму електронному листі. У квітні 2024 року він залишив компанію, повідомивши, що “втратив упевненість у сумлінному виконанні обов’язків компанії”.
Джерело New York Time