OpenAI giải tán nhóm nghiên cứu về rủi ro dài hạn của AI, chưa đầy một năm sau khi công bố

CÁC Ý CHÍNH

  • OpenAI đã giải tán nhóm nghiên cứu tập trung vào các rủi ro dài hạn của trí tuệ nhân tạo, một người quen thuộc với tình hình đã xác nhận với CNBC.
  • Tin tức được đưa ra vài ngày sau khi cả hai lãnh đạo nhóm, đồng sáng lập OpenAI Ilya Sutskever và Jan Leike, tuyên bố rời khỏi công ty khởi nghiệp được Microsoft hậu thuẫn.
  • Nhóm Superalignment của OpenAI, được công bố vào năm 2023, đã nỗ lực đạt được “những đột phá khoa học và kỹ thuật để định hướng và kiểm soát các hệ thống AI thông minh hơn nhiều so với chúng ta”.
  • Vào thời điểm đó, OpenAI cho biết họ sẽ dành 20% sức mạnh tính toán của mình cho sáng kiến này trong bốn năm.
Sam Altman, Giám đốc điều hành của OpenAI, phát biểu tại cuộc họp thường niên của Diễn đàn Toàn cầu Hope ở Atlanta vào ngày 11 tháng 12 năm 2023.

OpenAI giải tán nhóm nghiên cứu về rủi ro dài hạn của trí tuệ nhân tạo (AI) chỉ một năm sau khi thành lập nhóm, một nguồn tin thân cận xác nhận với CNBC vào thứ Sáu.

Người này, giấu tên, cho biết một số thành viên nhóm đang được phân công lại vào các nhóm khác nhau trong công ty.

Tin tức được đưa ra vài ngày sau khi cả hai lãnh đạo nhóm, đồng sáng lập OpenAI Ilya Sutskever và Jan Leike, tuyên bố rời khỏi công ty khởi nghiệp được Microsoft hậu thuẫn. Thứ Sáu, Leike viết rằng “văn hóa và quy trình an toàn” của OpenAI “đã bị xếp sau các sản phẩm hào nhoáng.”

Nhóm Superalignment của OpenAI, được công bố vào năm ngoái, tập trung vào “những đột phá khoa học và kỹ thuật để định hướng và kiểm soát các hệ thống AI thông minh hơn nhiều so với chúng ta”. Vào thời điểm đó, OpenAI cho biết họ sẽ dành 20% sức mạnh tính toán của mình cho sáng kiến này trong bốn năm.

OpenAI không đưa ra bình luận mà thay vào đó, họ hướng CNBC đến bài đăng gần đây của đồng sáng lập và Giám đốc điều hành Sam Altman trên [X], nơi ông chia sẻ rằng ông buồn khi thấy Leike rời đi và công ty còn nhiều việc phải làm. Vào thứ Bảy, đồng sáng lập OpenAI Greg Brockman đã đăng một tuyên bố của cả anh ấy và Altman trên [X], khẳng định rằng công ty đã “nâng cao nhận thức về những rủi ro và cơ hội của Trí tuệ Tổng hợp Nhân tạo (AGI) để thế giới có thể chuẩn bị tốt hơn cho nó.”

Tin tức về việc giải tán nhóm lần đầu tiên được Wired đưa tin.

Sutskever và Leike lần lượt tuyên bố rời đi trên nền tảng truyền thông xã hội [X] cách nhau vài giờ vào thứ Ba, nhưng vào thứ Sáu, Leike đã chia sẻ thêm chi tiết về lý do anh rời khỏi công ty khởi nghiệp.

“Tôi tham gia vì tôi nghĩ OpenAI sẽ là nơi tốt nhất trên thế giới để thực hiện nghiên cứu này,” Leike viết trên [X]. “Tuy nhiên, tôi đã không đồng ý với lãnh đạo OpenAI về các ưu tiên cốt lõi của công ty trong một thời gian khá dài, cho đến khi chúng tôi cuối cùng đạt đến điểm bế tắc.”

Có thể bạn thích:  Lý do các chatbot AI mới khó lật đổ Google

Leike cho rằng phần lớn tài nguyên của công ty nên tập trung vào an ninh, giám sát, sẵn sàng, an toàn và tác động xã hội.

Ông viết: “Những vấn đề này rất khó để giải quyết đúng, và tôi lo ngại rằng chúng ta không đi đúng hướng. Trong vài tháng qua, nhóm của tôi đã phải chèo chống ngược gió. Đôi khi chúng tôi gặp khó khăn trong việc xin tài nguyên tính toán và ngày càng khó khăn hơn để thực hiện nghiên cứu quan trọng này.”

Leike nói thêm rằng OpenAI phải trở thành “công ty AGI an toàn đầu tiên.”

Ông viết: “Việc xây dựng những cỗ máy thông minh hơn con người vốn dĩ là một nỗ lực nguy hiểm. OpenAI đang gánh vác một trách nhiệm to lớn thay mặt cho toàn nhân loại. Nhưng trong những năm qua, văn hóa và quy trình an toàn đã bị xếp sau các sản phẩm hào nhoáng.”

Leike hiện chưa phản hồi yêu cầu bình luận.

Những cuộc ra đi đình đám này diễn ra vài tháng sau khi OpenAI trải qua cuộc khủng hoảng lãnh đạo liên quan đến Altman.

Tháng 11, hội đồng quản trị OpenAI đã đuổi Altman, tuyên bố trong một thông cáo rằng Altman đã không “thẳng thắn nhất quán trong giao tiếp với hội đồng quản trị.”

Vấn đề dường như trở nên phức tạp hơn mỗi ngày, với The Wall Street Journal và các phương tiện truyền thông khác đưa tin rằng Sutskever tập trung đảm bảo trí tuệ nhân tạo không gây hại cho con người, trong khi những người khác, bao gồm Altman, lại háo hức hơn trong việc thúc đẩy việc cung cấp công nghệ mới.

Sự ra đi của Altman đã dẫn đến nhiều đơn xin nghỉ việc hoặc đe dọa nghỉ việc, bao gồm một lá thư ngỏ được hầu hết tất cả nhân viên OpenAI ký, và sự phẫn nộ từ các nhà đầu tư, bao gồm cả Microsoft. Trong vòng một tuần, Altman quay trở lại công ty, và các thành viên hội đồng quản trị Helen Toner, Tasha McCauley và Ilya Sutskever, những người đã bỏ phiếu loại Altman, đã rời đi. Sutskever vẫn ở lại làm việc nhưng không còn là thành viên hội đồng quản trị. Adam D’Angelo, người cũng bỏ phiếu loại Altman, vẫn ở lại hội đồng.

Khi được hỏi về tình trạng của Sutskever trong cuộc gọi Zoom với các phóng viên vào tháng Ba, Altman cho biết không có cập nhật nào để chia sẻ. “Tôi rất quý Ilya … Tôi hy vọng chúng tôi sẽ cùng nhau làm việc trong phần còn lại của sự nghiệp, sự nghiệp của tôi, bất kể như thế nào,” Altman nói. “Không có gì để thông báo ngày hôm nay.”

Vào thứ Ba, Altman đã chia sẻ suy nghĩ của mình về sự ra đi của Sutskever. “Điều này khiến tôi rất buồn; Ilya chắc chắn là một trong những bộ óc vĩ đại nhất của thế hệ chúng ta, một ngọn đèn chỉ đường cho lĩnh vực của chúng tôi và là một người bạn thân thiết,” Altman viết trên [X]. “Sự thông minh và tầm nhìn của anh ấy được biết đến rộng rãi; lòng nhiệt tình và sự đồng cảm của anh ấy ít được biết đến hơn nhưng không kém phần quan trọng.” Altman cho biết giám đốc nghiên cứu Jakub Pachocki, người đã gia nhập OpenAI từ năm 2017, sẽ thay thế Sutskever làm giám đốc khoa học.

Có thể bạn thích:  Cập nhật lớn từ Apple

Tin tức về việc Sutskever và Leike rời đi, cùng với việc giải tán nhóm siêu trật tự (superalignment team), diễn ra chỉ vài ngày sau khi OpenAI ra mắt mô hình AI mới và phiên bản desktop của ChatGPT, cùng với giao diện người dùng được cập nhật – nỗ lực mới nhất của công ty nhằm mở rộng việc sử dụng chatbot nổi tiếng của mình.

Giám đốc công nghệ Mira Murati cho biết trong một sự kiện livestream vào thứ Hai rằng bản cập nhật mang mô hình GPT-4 đến với tất cả mọi người, bao gồm cả người dùng miễn phí của OpenAI. Cô nói thêm rằng mô hình mới, GPT-4o, “nhanh hơn nhiều” với khả năng cải tiến về văn bản, video và âm thanh.

OpenAI cho biết cuối cùng họ có kế hoạch cho phép người dùng trò chuyện video với ChatGPT. “Đây là lần đầu tiên chúng tôi thực sự thực hiện một bước tiến nhảy vọt về tính dễ sử dụng,” Murati nói.

Vũ Thanh Mai

Change the world by being yourself

Similar Posts

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *