Незадовго до звільнення Сема Альтмана дослідники OpenAI попередили раду директорів про велике відкриття в галузі ШІ, яке «може загрожувати людству». Про це повідомляє Reuters із посиланням на анонімні джерела.
Співрозмовники видання назвали лист співробітників одним із пунктів у довгому списку претензій правління, що призвели до зняття Альтмана з посади CEO. Зокрема, керівництво побоювалося комерціалізації технології до визначення її ризиків.
У внутрішньому повідомленні рада директорів OpenAI визнала існування так званого проєкту Q* (вимовляється як Q-Star). На думку багатьох співробітників, розробка може стати проривом для створення загального штучного інтелекту (AGI).
OpenAI та сам Альтман визначають AGI як автономні системи, які перевершують людей у більшості рутинних і обчислювальних процесів.
Q* поки що вміє розв’язувати тільки прості математичні задачі для початкових класів, використовуючи при цьому величезну кількість ресурсів. Однак у компанії впевнені, що технологія має великі перспективи.
На думку експертів OpenAI, математика — передовий рубіж розвитку генеративного ШІ. Наразі нейромережі здатні «передбачати» відповідь на поставлене запитання і пробувати її підібрати з деякою ймовірністю помилки.
Математичні завдання вимагають точної відповіді, тому розвиток у цьому напрямі передбачає поліпшення здібностей штучного інтелекту до міркування.
На відміну від калькулятора, який виконує обмежену кількість операцій, AGI може узагальнювати, вчитися і розуміти, вважають в OpenAI.
За словами одного з джерел, у компанії також існувала спеціальна група, сформована з команд Code Gen і Math Gen. Вона нібито вивчала оптимізацію і можливості «свідомості» ШІ-моделей.
Нагадаємо, через чотири дні після звільнення Альтмана OpenAI оголосила про його повернення на посаду CEO і зміну складу ради директорів.
