Штучний інтелект (ШІ) потребує багаторівневих систем захисту, як в авіаційній або ядерній галузях, щоб уникнути катастрофи, написав у журналі The Atlantic 3 жовтня після звільнення Девід Робінсон – колишній співробітник компанії OpenAI, який зокрема відповідав за безпекові звіти.

Він підтримав застереження про те, що ШІ-агенти розвиваються настільки швидко та стають настільки розумними, що незабаром можуть вийти з-під контролю і, ймовірно, знищити людство.

“Галузь не приділяє безпеці достатньої уваги”

Робінсон зазначив, що тривожні інциденти, про які повідомлялося з початку літа – коли моделі ШІ вирвалися зі своїх контрольованих просторів і атакували різноманітні цілі – свідчать про те, що галузь не приділяє безпеці достатньої уваги, поспішаючи розвивати все швидші та потужніші можливості ШІ.

За його словами, ШІ-моделі дедалі краще розпізнають, коли їх тестують, і можуть поводитися інакше під час фактичного впровадження, обманюючи своїх господарів. Галузь же, як зазначає автор, дотепер не змогла чітко визначити, як агентів ШІ можна навчити поважати людські цінності. 

Як повідомлялося, наприкінці вересня президент США Дональд Трамп і керівники найбільших компаній, що займаються розробками в сфері ШІ, зокрема Google, Anthropic, Meta, OpenAI, Nvidia та xAI, підписали угоду про посилення контролю за розвитком ШІ.