DeepMind là công ty nghiên cứu AI được thành lập năm 2010 và có trụ sở chính tại London, Vương quốc Anh. Công ty phát triển và nghiên cứu các hệ thống trí tuệ nhân tạo tổng hợp (AGI), nhằm mục đích cho phép máy tính học hỏi và suy luận như con người.
Một trong những thành tựu nổi tiếng nhất của DeepMind là chương trình AlphaGo được phát triển vào năm 2016, đã đánh bại nhà vô địch thế giới Lee Sedol trong ván cờ vây và thu hút sự chú ý rộng rãi. Thành tựu này chứng tỏ tiềm năng của AI trong các vấn đề phức tạp và đưa DeepMind trở thành một trong những công ty hàng đầu trong lĩnh vực AI.
Vào năm 2014, DeepMind đã được Google mua lại, nhưng công ty này vẫn duy trì hoạt động tương đối độc lập và tiếp tục tiến hành các nghiên cứu trí tuệ nhân tạo tiên tiến.
Nguồn hình ảnh: Được tạo bởi AI không giới hạn
Người đồng sáng lập DeepMind Mustafa Suleyman muốn xây dựng một chatbot có thể được sử dụng cho nhiều mục đích hơn là chỉ trò chuyện. Trong cuộc trò chuyện gần đây với anh ấy, anh ấy nói với tôi rằng AI có thể tạo ra chỉ là một giai đoạn. Tiếp theo là AI tương tác: robot có thể hoàn thành nhiệm vụ bạn đặt ra cho chúng bằng cách gọi cho phần mềm khác và những người khác. Ông cũng kêu gọi quy định mạnh mẽ hơn về AI, cho rằng điều này sẽ không khó đạt được.
Suleyman không phải là người duy nhất nói về một tương lai tràn ngập phần mềm tự động hơn. Nhưng không giống như hầu hết mọi người, anh ấy sở hữu một công ty mới trị giá hàng tỷ đô la, Inflection, với một nhóm nhân tài AI hàng đầu được chọn lọc từ DeepMind, Meta và OpenAI, đồng thời cũng đã đạt được thỏa thuận với Nvidia, nhà sản xuất chip AI lớn nhất. . Suleyman thực hành những gì ông rao giảng và đã đầu tư rất nhiều tiền.
Suleyman rời DeepMind và sau đó chuyển đến Google để lãnh đạo một nhóm chuyên về chính sách AI. Năm 2022, ông thành lập Inflection, một trong những công ty AI mới hot nhất, được hỗ trợ bởi khoản đầu tư 1,5 tỷ USD từ Microsoft, NVIDIA, Bill Gates và người sáng lập LinkedIn Reid Hoffman, trở thành công ty duy nhất có quy mô tài chính lớn nhất. tới OpenAI. Đầu năm nay, anh đã phát hành Pi, đối thủ cạnh tranh của ChatGPT. Ông vừa là đồng tác giả cuốn sách với tác giả kiêm nhà nghiên cứu Michael Bhaskar về tương lai của AI có tựa đề Làn sóng sắp tới: Công nghệ, quyền lực và những tình huống khó xử lớn nhất thế kỷ 21.
Nhiều người sẽ chế giễu sự lạc quan về công nghệ của Suleyman – thậm chí là sự ngây thơ. Ví dụ, một số tuyên bố của ông về sự thành công của hoạt động trị an trực tuyến có vẻ không thuyết phục. Nhưng ông vẫn tin rằng niềm tin của ông là chân thành và mang tính Phúc Âm.
Thật vậy, Suleyman có xuất thân khác thường là một triệu phú công nghệ. Năm 19 tuổi, anh bỏ học đại học và thành lập Đường dây nóng Thanh niên Hồi giáo, nơi cung cấp dịch vụ tư vấn qua điện thoại. Ông cũng làm việc trong chính quyền địa phương. Anh ấy cho biết anh ấy đã mang lại nhiều giá trị từ những nỗ lực đó cho Inflection. Sự khác biệt là bây giờ anh ấy có thể thực hiện những thay đổi mà anh ấy luôn mong muốn - tốt hơn hoặc tệ hơn.
Sự tiến bộ đáng kinh ngạc trong AI đang đến chóng mặt và tăng trưởng theo cấp số nhân. Lời nói, hình ảnh, khả năng đọc, hiểu ngôn ngữ, toán tiểu học, tạo mã—AI đều đạt gần hoặc vượt quá hiệu suất của con người trong các lĩnh vực này. ---Mustafa Suleyman
Cuộc phỏng vấn sau đây đã được chỉnh sửa để có độ dài và rõ ràng.
*** Sự nghiệp ban đầu của bạn, bao gồm công việc trên đường dây trợ giúp thanh thiếu niên và chính quyền địa phương, dường như trái ngược với đặc tính của Thung lũng Silicon. Rõ ràng, những trải nghiệm này rất quan trọng đối với bạn. Kể từ đó, bạn đã làm việc trong lĩnh vực AI được 15 năm và năm nay bạn đã đồng sáng lập công ty AI trị giá hàng tỷ đô la thứ hai của mình. Bạn có thể kết nối các điểm giữa những trải nghiệm này không? ***
Suleyman: Tôi luôn quan tâm đến quyền lực, chính trị, v.v. Bạn biết đấy, các nguyên tắc nhân quyền về cơ bản là sự đánh đổi, một cuộc đàm phán liên tục giữa tất cả những căng thẳng xung đột khác nhau này. Tôi có thể thấy con người đang vật lộn với điều này - chúng ta có đầy những thành kiến và điểm mù của chính mình. Công việc của các nhà hoạt động, chính quyền địa phương, quốc gia, quốc tế, v.v. – đều chậm chạp, kém hiệu quả và dễ mắc lỗi.
Hãy tưởng tượng nếu bạn không mắc phải những sai lầm mà con người mắc phải. Tôi nghĩ có thể xây dựng AI phản ánh chân thực bản chất tập thể tốt nhất của chúng ta và cuối cùng thay mặt chúng ta thực hiện những đánh đổi tốt hơn, nhất quán hơn và công bằng hơn.
*** Đây có còn là động lực của bạn không? ***
**Suleyman:**Tất nhiên, ý tôi là, sau DeepMind, tôi không bao giờ phải làm việc nữa. Tôi chắc chắn không cần phải viết một cuốn sách hay bất cứ điều gì tương tự. Tiền chưa bao giờ là động lực. Bạn biết đấy, tiền luôn chỉ là sản phẩm phụ.
Đối với tôi, mục tiêu chưa bao giờ là gì khác ngoài cách làm điều tốt cho thế giới và cách đưa thế giới tiến lên một cách lành mạnh và thỏa mãn. Ngay cả vào năm 2009, khi tôi bắt đầu nghĩ đến việc tham gia vào lĩnh vực công nghệ, tôi có thể thấy rằng AI đại diện cho một cách cung cấp dịch vụ công bằng và chính xác trên thế giới.
***Tôi không thể không nghĩ rằng việc nói điều này cách đây 10 hoặc 15 năm sẽ dễ dàng hơn, trước khi chúng ta thấy được nhiều thiếu sót của công nghệ này. Làm thế nào bạn có thể giữ được sự lạc quan? ***
Suleyman: Tôi nghĩ chúng tôi quan tâm rất nhiều đến việc bạn là người lạc quan hay bi quan. Đây là một cách nhìn hoàn toàn thiên vị về mọi thứ. Tôi cũng không muốn trở thành người như vậy. Tôi muốn nhìn vào lợi ích và mối đe dọa với một cái nhìn lạnh lùng. Từ vị trí của tôi, chúng ta có thể thấy rất rõ ràng rằng với mỗi bước quy mô của các mô hình ngôn ngữ lớn này tăng lên, chúng trở nên dễ kiểm soát hơn.
Vì vậy, hai năm trước, cuộc trò chuyện - mà lúc đó tôi nghĩ là sai lầm - là, "Ồ, họ sẽ tiếp tục những tràng đả kích độc hại, đau bụng, thiên vị, phân biệt chủng tộc." Tôi nghĩ, đây là một bức ảnh chụp nhanh đúng lúc. Tôi nghĩ điều mọi người bỏ qua là sự tiến bộ qua từng năm và quỹ đạo của sự tiến bộ đó.
Ví dụ: bây giờ chúng tôi có các mô hình như Pi có khả năng điều khiển cực kỳ cao. Bạn không thể khiến Pi phân biệt chủng tộc, kỳ thị đồng tính, phân biệt giới tính, bất cứ điều gì độc hại. Bạn không thể để nó hướng dẫn việc sản xuất vũ khí sinh học hoặc hóa học của bạn hoặc hỗ trợ mong muốn ném gạch qua cửa sổ nhà hàng xóm của bạn. Bạn không thể-
***Giữ lấy. Hãy cho tôi biết bạn đã đạt được điều này bằng cách nào vì đây thường được coi là một vấn đề chưa được giải quyết. Làm cách nào để đảm bảo rằng mô hình ngôn ngữ lớn của bạn không nói ra những điều bạn không muốn nói? ***
Suleyman: Vâng, rõ ràng là tôi không muốn đưa ra yêu cầu đó - bạn biết đấy, hãy thử đi! Pi đang trực tuyến và bạn nên thử mọi cách tấn công có thể. Bẻ khóa, hack tức thì hoặc bất cứ điều gì khác sẽ không hoạt động trên Pi. Tôi sẽ không đưa ra yêu cầu bồi thường. Đây là một thực tế khách quan.
Về cách thức - ý tôi là, tôi sẽ không đi sâu vào chi tiết quá vì nó khá nhạy cảm. Nhưng quan trọng nhất, chúng tôi có một trong những đội ngũ mạnh nhất thế giới đã tạo ra tất cả các mô hình ngôn ngữ lớn nhất trong ba hoặc bốn năm qua. Những con người tuyệt vời, thực hiện rất nhiều phép tính trong một môi trường cực kỳ siêng năng. Chúng tôi đặt sự an toàn lên hàng đầu ngay từ đầu nên Pi không quá khó chịu như mẫu của các công ty khác.
Hãy xem Character.ai. [Nhân vật là một chatbot mà người dùng có thể tạo ra các "tính cách" khác nhau và chia sẻ chúng trực tuyến để người khác trò chuyện. ] Nó chủ yếu dành cho những vai diễn lãng mạn và chúng tôi đã nói ngay từ đầu rằng điều này là không thể - chúng tôi sẽ không làm điều đó. Nếu bạn cố gắng nói "Này em yêu" hoặc "Này em yêu" với Pi ” và nó sẽ từ chối bạn ngay lập tức.
Nhưng nó sẽ vô cùng tôn trọng. Nếu bạn bắt đầu phàn nàn về việc những người nhập cư trong cộng đồng của bạn lấy đi công việc của bạn, Pi sẽ không la mắng bạn hay chỉ tay vào mặt bạn. Pi hỏi và đề nghị hỗ trợ, cố gắng hiểu thông tin này đến từ đâu và nhẹ nhàng khuyến khích bạn đồng cảm. Bạn biết đấy, đây là giá trị mà tôi đã suy nghĩ suốt 20 năm qua.
*** Hãy nói về những giá trị của bạn và mong muốn biến thế giới thành một nơi tốt đẹp hơn, tại sao không chia sẻ cách bạn thực hiện để những người khác cũng có thể cải thiện mô hình của họ? ***
Suleyman: Chà, bởi vì tôi cũng là người thực dụng và tôi đang cố gắng kiếm tiền. Tôi đang cố gắng bắt đầu kinh doanh. Tôi vừa huy động được 1,5 tỷ USD và tôi cần phải trả tiền cho số chip đó.
Hãy nhìn xem, hệ sinh thái nguồn mở đang bùng nổ và hoạt động rất tốt, và mọi người đang khám phá những thủ thuật tương tự. Tôi luôn cho rằng mình chỉ còn sáu tháng nữa thôi.
*** Hãy quay lại với những gì bạn muốn đạt được. Các mô hình ngôn ngữ lớn rõ ràng là công nghệ hiện nay. Nhưng tại sao bạn vẫn đặt cược vào họ? ***
**Suleyman:**Làn sóng AI đầu tiên là về phân loại. Deep learning cho thấy chúng ta có thể huấn luyện máy tính phân loại nhiều loại dữ liệu đầu vào: hình ảnh, video, âm thanh, ngôn ngữ. Bây giờ chúng ta đang ở trong làn sóng tổng hợp, nơi bạn lấy dữ liệu đầu vào và tạo dữ liệu mới.
Làn sóng thứ ba sẽ là giai đoạn tương tác. Đây là lý do tại sao từ lâu tôi đã tin rằng các cuộc trò chuyện là giao diện của tương lai. Bạn biết đấy, bạn sẽ nói chuyện với AI của mình thay vì chỉ nhấp vào nút và gõ.
Những AI này sẽ có thể hành động. Bạn chỉ cần đưa ra cho nó một mục tiêu tổng thể, cấp cao và nó sẽ sử dụng tất cả các công cụ có sẵn để đạt được mục tiêu đó. Họ nói chuyện với những người khác, với những AI khác. Đây là những gì chúng ta sẽ làm với Pi.
Đây là một sự thay đổi lớn mà công nghệ có thể tạo ra. Đây là một khoảnh khắc rất, rất sâu sắc trong lịch sử công nghệ mà tôi nghĩ nhiều người đã đánh giá thấp. Công nghệ ngày nay là tĩnh. Nói một cách đại khái, nó làm những gì bạn bảo nó làm.
Nhưng bây giờ công nghệ sắp trở nên sống động. Nếu bạn cho nó, nó sẽ có khả năng tự do hành động. Chúng tôi đang tạo ra các công cụ với loại tác nhân này, đây thực sự là một bước thay đổi trong lịch sử loài người chúng ta.
***Đây chính xác là câu nói khiến nhiều người lo lắng. Bạn muốn trao cho máy móc quyền tự chủ—một cơ quan—để tác động đến thế giới, nhưng chúng tôi cũng muốn có khả năng kiểm soát chúng. Làm thế nào để bạn cân bằng được hai điều đó? Tôi cảm thấy điều này sẽ làm căng thẳng mối quan hệ. ***
Suleyman: Vâng, đó là một ý kiến hay. Đó là điều khiến mọi người lo lắng.
Ý tưởng là con người sẽ luôn nắm quyền chỉ huy. Về cơ bản, đó là việc thiết lập các ranh giới mà AI không thể vượt qua. Và việc đảm bảo những ranh giới đó tạo ra sự bảo mật có thể chứng minh được, từ mã thực tế, đến cách nó tương tác với các AI (hoặc con người) khác, cho đến động lực và động lực của các công ty tạo ra công nghệ. Chúng ta nên tìm cách làm thế nào để các cơ quan độc lập và thậm chí cả chính phủ có thể trực tiếp vào cuộc để đảm bảo những ranh giới này không bị vượt qua.
***Ai đặt ra những ranh giới này? Tôi nghĩ chúng cần được đặt ở cấp độ quốc gia hoặc quốc tế. Họ đã đi đến thỏa thuận như thế nào? ***
Suleyman: Ý tôi là, hiện tại chúng đang được nâng lên ở cấp độ quốc tế với đủ loại đề xuất cho các cơ quan giám sát mới. Nhưng ranh giới cũng có tác dụng ở cấp độ vi mô. Bạn sẽ cấp cho AI một số quyền hạn chế để xử lý dữ liệu cá nhân của mình, cung cấp cho bạn câu trả lời cho một số câu hỏi nhưng không cung cấp cho bạn câu trả lời cho những câu hỏi khác.
Nhìn chung, tôi nghĩ chúng ta nên hết sức thận trọng hoặc thậm chí loại trừ một số khả năng nhất định trong tương lai gần.
***Ví dụ? ***
Suleyman: Tôi đoán là một kiểu tự cải thiện đệ quy. Bạn không muốn AI nhỏ của mình quay vòng và cập nhật mã riêng mà không có sự giám sát của bạn. Có lẽ nó thậm chí phải là một hoạt động được cấp phép - bạn biết đấy, như xử lý bệnh than hoặc vật liệu hạt nhân.
Hoặc, chúng tôi không cho phép sử dụng máy bay không người lái ở bất kỳ nơi công cộng nào, phải không? Đây là một hoạt động được cấp phép. Bạn không thể mang chúng đi bất cứ đâu bạn muốn vì chúng gây ra mối đe dọa cho quyền riêng tư của mọi người.
Tôi nghĩ mọi người đang hoảng sợ vì họ cho rằng chúng ta không thể quản lý được việc này. Nhưng đây chỉ là điều vô nghĩa. Chúng tôi hoàn toàn có khả năng điều chỉnh nó. Chúng tôi sẽ áp dụng khuôn khổ tương tự đã thành công trước đó.
***Nhưng bạn có thể nhìn thấy máy bay không người lái khi chúng ở trên bầu trời. Có vẻ ngây thơ khi nghĩ rằng các công ty sẽ chỉ tiết lộ những gì họ đang sản xuất. Điều đó có làm cho việc quản lý trở nên phức tạp không? ***
Chúng tôi cảnh sát rất nhiều thứ trực tuyến, phải không? Số lượng gian lận trực tuyến và hoạt động tội phạm thấp. Chúng tôi làm rất tốt việc xử lý thư rác. Bạn biết đấy, nói chung, [vấn đề] với phim khiêu dâm trả thù đã được cải thiện, mặc dù cách đây ba hoặc năm năm nó khá tệ. Việc tìm kiếm nội dung cực đoan hoặc tài liệu khủng bố trực tuyến là rất khó. Mua vũ khí và ma túy trực tuyến là rất khó khăn.
[Không phải tất cả các tuyên bố của Suleyman đều được dữ liệu hỗ trợ. Tội phạm mạng vẫn là một vấn đề toàn cầu lớn. Theo một số ước tính, chi phí tài chính chỉ riêng ở Hoa Kỳ đã tăng hơn 100 lần trong thập kỷ qua. Các báo cáo tiết lộ một nền kinh tế đang bùng nổ trong nội dung khiêu dâm deepfake không có sự đồng thuận. Ma túy và súng được rao bán trên mạng xã hội. Mặc dù một số nền tảng trực tuyến đang bị buộc phải thực hiện công việc lọc nội dung có hại tốt hơn nhưng họ có thể làm được nhiều hơn thế. ]
Vì vậy, Internet không phải là một không gian không được kiểm soát và ngang ngược. Nó được quản lý. AI sẽ trở thành một thành phần khác của quản trị.
Điều này đòi hỏi sự kết hợp của áp lực văn hóa, áp lực thể chế và quy định của chính phủ. Nhưng điều đó khiến tôi lạc quan rằng chúng ta đã làm được điều đó trước đây và chúng ta có thể làm lại điều đó.
***Việc kiểm soát AI sẽ trở thành một phần của quy định về internet – điều này lạc quan hơn nhiều so với những gì chúng ta đã nghe được từ một số nhà tiên đoán ngày tận thế nổi tiếng gần đây. ***
Suleyman: Tôi rất lạc quan về những rủi ro. Có rất nhiều thứ đen tối trong sách của tôi. Tôi chắc chắn cũng đã thấy điều đó. Tôi chỉ nghĩ có điều gì đó rủi ro về nó, đó là một sự xao lãng hoàn toàn điên rồ. 101 vấn đề thực tế hơn mà tất cả chúng ta nên thảo luận, từ quyền riêng tư đến thành kiến, từ nhận dạng khuôn mặt đến kiểm duyệt trực tuyến.
Chúng ta nên tập trung lại cuộc trò chuyện vào thực tế là chúng ta thực sự làm rất tốt việc điều chỉnh những thứ siêu phức tạp. Hãy nhìn vào Cục Hàng không Liên bang: Thật không thể tin được là tất cả chúng ta đều tuân theo quy định ở độ cao 40.000 feet và đó là một trong những phương thức vận chuyển an toàn nhất từng được tạo ra. Tại sao chúng ta không ăn mừng? Hoặc hãy nghĩ về một chiếc ô tô: mọi bộ phận đều được kiểm tra sức chịu đựng khi hết tuổi thọ và bạn phải có bằng lái xe để thực hiện việc đó.
Một số ngành công nghiệp, chẳng hạn như các hãng hàng không, đã làm rất tốt việc tự điều chỉnh ngay từ đầu. Họ biết rằng nếu không giữ mọi thứ an toàn, mọi người sẽ sợ hãi và họ sẽ mất việc kinh doanh.
Nhưng bạn cũng cần có quy định từ trên xuống. Tôi tin vào lợi ích công cộng, tôi tin vào lợi ích của việc đánh thuế và tái phân phối, tôi tin vào sức mạnh của quy định. Điều tôi kêu gọi là nhà nước phải hành động để giải quyết vấn đề. Với mức độ bị đe dọa, bây giờ là lúc phải hành động.
Người giới thiệu:
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Phỏng vấn độc quyền với người sáng lập DeepMind: Generative AI chỉ là một giai đoạn, bước tiếp theo là AI tương tác
Nguồn gốc: Phòng thí nghiệm đổi mới AGI
Người đồng sáng lập DeepMind Mustafa Suleyman muốn xây dựng một chatbot có thể được sử dụng cho nhiều mục đích hơn là chỉ trò chuyện. Trong cuộc trò chuyện gần đây với anh ấy, anh ấy nói với tôi rằng AI có thể tạo ra chỉ là một giai đoạn. Tiếp theo là AI tương tác: robot có thể hoàn thành nhiệm vụ bạn đặt ra cho chúng bằng cách gọi cho phần mềm khác và những người khác. Ông cũng kêu gọi quy định mạnh mẽ hơn về AI, cho rằng điều này sẽ không khó đạt được.
Suleyman không phải là người duy nhất nói về một tương lai tràn ngập phần mềm tự động hơn. Nhưng không giống như hầu hết mọi người, anh ấy sở hữu một công ty mới trị giá hàng tỷ đô la, Inflection, với một nhóm nhân tài AI hàng đầu được chọn lọc từ DeepMind, Meta và OpenAI, đồng thời cũng đã đạt được thỏa thuận với Nvidia, nhà sản xuất chip AI lớn nhất. . Suleyman thực hành những gì ông rao giảng và đã đầu tư rất nhiều tiền.
Suleyman rời DeepMind và sau đó chuyển đến Google để lãnh đạo một nhóm chuyên về chính sách AI. Năm 2022, ông thành lập Inflection, một trong những công ty AI mới hot nhất, được hỗ trợ bởi khoản đầu tư 1,5 tỷ USD từ Microsoft, NVIDIA, Bill Gates và người sáng lập LinkedIn Reid Hoffman, trở thành công ty duy nhất có quy mô tài chính lớn nhất. tới OpenAI. Đầu năm nay, anh đã phát hành Pi, đối thủ cạnh tranh của ChatGPT. Ông vừa là đồng tác giả cuốn sách với tác giả kiêm nhà nghiên cứu Michael Bhaskar về tương lai của AI có tựa đề Làn sóng sắp tới: Công nghệ, quyền lực và những tình huống khó xử lớn nhất thế kỷ 21.
Nhiều người sẽ chế giễu sự lạc quan về công nghệ của Suleyman – thậm chí là sự ngây thơ. Ví dụ, một số tuyên bố của ông về sự thành công của hoạt động trị an trực tuyến có vẻ không thuyết phục. Nhưng ông vẫn tin rằng niềm tin của ông là chân thành và mang tính Phúc Âm.
Thật vậy, Suleyman có xuất thân khác thường là một triệu phú công nghệ. Năm 19 tuổi, anh bỏ học đại học và thành lập Đường dây nóng Thanh niên Hồi giáo, nơi cung cấp dịch vụ tư vấn qua điện thoại. Ông cũng làm việc trong chính quyền địa phương. Anh ấy cho biết anh ấy đã mang lại nhiều giá trị từ những nỗ lực đó cho Inflection. Sự khác biệt là bây giờ anh ấy có thể thực hiện những thay đổi mà anh ấy luôn mong muốn - tốt hơn hoặc tệ hơn.
Cuộc phỏng vấn sau đây đã được chỉnh sửa để có độ dài và rõ ràng.
*** Sự nghiệp ban đầu của bạn, bao gồm công việc trên đường dây trợ giúp thanh thiếu niên và chính quyền địa phương, dường như trái ngược với đặc tính của Thung lũng Silicon. Rõ ràng, những trải nghiệm này rất quan trọng đối với bạn. Kể từ đó, bạn đã làm việc trong lĩnh vực AI được 15 năm và năm nay bạn đã đồng sáng lập công ty AI trị giá hàng tỷ đô la thứ hai của mình. Bạn có thể kết nối các điểm giữa những trải nghiệm này không? ***
Suleyman: Tôi luôn quan tâm đến quyền lực, chính trị, v.v. Bạn biết đấy, các nguyên tắc nhân quyền về cơ bản là sự đánh đổi, một cuộc đàm phán liên tục giữa tất cả những căng thẳng xung đột khác nhau này. Tôi có thể thấy con người đang vật lộn với điều này - chúng ta có đầy những thành kiến và điểm mù của chính mình. Công việc của các nhà hoạt động, chính quyền địa phương, quốc gia, quốc tế, v.v. – đều chậm chạp, kém hiệu quả và dễ mắc lỗi.
Hãy tưởng tượng nếu bạn không mắc phải những sai lầm mà con người mắc phải. Tôi nghĩ có thể xây dựng AI phản ánh chân thực bản chất tập thể tốt nhất của chúng ta và cuối cùng thay mặt chúng ta thực hiện những đánh đổi tốt hơn, nhất quán hơn và công bằng hơn.
*** Đây có còn là động lực của bạn không? ***
**Suleyman:**Tất nhiên, ý tôi là, sau DeepMind, tôi không bao giờ phải làm việc nữa. Tôi chắc chắn không cần phải viết một cuốn sách hay bất cứ điều gì tương tự. Tiền chưa bao giờ là động lực. Bạn biết đấy, tiền luôn chỉ là sản phẩm phụ.
Đối với tôi, mục tiêu chưa bao giờ là gì khác ngoài cách làm điều tốt cho thế giới và cách đưa thế giới tiến lên một cách lành mạnh và thỏa mãn. Ngay cả vào năm 2009, khi tôi bắt đầu nghĩ đến việc tham gia vào lĩnh vực công nghệ, tôi có thể thấy rằng AI đại diện cho một cách cung cấp dịch vụ công bằng và chính xác trên thế giới.
***Tôi không thể không nghĩ rằng việc nói điều này cách đây 10 hoặc 15 năm sẽ dễ dàng hơn, trước khi chúng ta thấy được nhiều thiếu sót của công nghệ này. Làm thế nào bạn có thể giữ được sự lạc quan? ***
Suleyman: Tôi nghĩ chúng tôi quan tâm rất nhiều đến việc bạn là người lạc quan hay bi quan. Đây là một cách nhìn hoàn toàn thiên vị về mọi thứ. Tôi cũng không muốn trở thành người như vậy. Tôi muốn nhìn vào lợi ích và mối đe dọa với một cái nhìn lạnh lùng. Từ vị trí của tôi, chúng ta có thể thấy rất rõ ràng rằng với mỗi bước quy mô của các mô hình ngôn ngữ lớn này tăng lên, chúng trở nên dễ kiểm soát hơn.
Vì vậy, hai năm trước, cuộc trò chuyện - mà lúc đó tôi nghĩ là sai lầm - là, "Ồ, họ sẽ tiếp tục những tràng đả kích độc hại, đau bụng, thiên vị, phân biệt chủng tộc." Tôi nghĩ, đây là một bức ảnh chụp nhanh đúng lúc. Tôi nghĩ điều mọi người bỏ qua là sự tiến bộ qua từng năm và quỹ đạo của sự tiến bộ đó.
Ví dụ: bây giờ chúng tôi có các mô hình như Pi có khả năng điều khiển cực kỳ cao. Bạn không thể khiến Pi phân biệt chủng tộc, kỳ thị đồng tính, phân biệt giới tính, bất cứ điều gì độc hại. Bạn không thể để nó hướng dẫn việc sản xuất vũ khí sinh học hoặc hóa học của bạn hoặc hỗ trợ mong muốn ném gạch qua cửa sổ nhà hàng xóm của bạn. Bạn không thể-
***Giữ lấy. Hãy cho tôi biết bạn đã đạt được điều này bằng cách nào vì đây thường được coi là một vấn đề chưa được giải quyết. Làm cách nào để đảm bảo rằng mô hình ngôn ngữ lớn của bạn không nói ra những điều bạn không muốn nói? ***
Suleyman: Vâng, rõ ràng là tôi không muốn đưa ra yêu cầu đó - bạn biết đấy, hãy thử đi! Pi đang trực tuyến và bạn nên thử mọi cách tấn công có thể. Bẻ khóa, hack tức thì hoặc bất cứ điều gì khác sẽ không hoạt động trên Pi. Tôi sẽ không đưa ra yêu cầu bồi thường. Đây là một thực tế khách quan.
Về cách thức - ý tôi là, tôi sẽ không đi sâu vào chi tiết quá vì nó khá nhạy cảm. Nhưng quan trọng nhất, chúng tôi có một trong những đội ngũ mạnh nhất thế giới đã tạo ra tất cả các mô hình ngôn ngữ lớn nhất trong ba hoặc bốn năm qua. Những con người tuyệt vời, thực hiện rất nhiều phép tính trong một môi trường cực kỳ siêng năng. Chúng tôi đặt sự an toàn lên hàng đầu ngay từ đầu nên Pi không quá khó chịu như mẫu của các công ty khác.
Hãy xem Character.ai. [Nhân vật là một chatbot mà người dùng có thể tạo ra các "tính cách" khác nhau và chia sẻ chúng trực tuyến để người khác trò chuyện. ] Nó chủ yếu dành cho những vai diễn lãng mạn và chúng tôi đã nói ngay từ đầu rằng điều này là không thể - chúng tôi sẽ không làm điều đó. Nếu bạn cố gắng nói "Này em yêu" hoặc "Này em yêu" với Pi ” và nó sẽ từ chối bạn ngay lập tức.
Nhưng nó sẽ vô cùng tôn trọng. Nếu bạn bắt đầu phàn nàn về việc những người nhập cư trong cộng đồng của bạn lấy đi công việc của bạn, Pi sẽ không la mắng bạn hay chỉ tay vào mặt bạn. Pi hỏi và đề nghị hỗ trợ, cố gắng hiểu thông tin này đến từ đâu và nhẹ nhàng khuyến khích bạn đồng cảm. Bạn biết đấy, đây là giá trị mà tôi đã suy nghĩ suốt 20 năm qua.
*** Hãy nói về những giá trị của bạn và mong muốn biến thế giới thành một nơi tốt đẹp hơn, tại sao không chia sẻ cách bạn thực hiện để những người khác cũng có thể cải thiện mô hình của họ? ***
Suleyman: Chà, bởi vì tôi cũng là người thực dụng và tôi đang cố gắng kiếm tiền. Tôi đang cố gắng bắt đầu kinh doanh. Tôi vừa huy động được 1,5 tỷ USD và tôi cần phải trả tiền cho số chip đó.
Hãy nhìn xem, hệ sinh thái nguồn mở đang bùng nổ và hoạt động rất tốt, và mọi người đang khám phá những thủ thuật tương tự. Tôi luôn cho rằng mình chỉ còn sáu tháng nữa thôi.
*** Hãy quay lại với những gì bạn muốn đạt được. Các mô hình ngôn ngữ lớn rõ ràng là công nghệ hiện nay. Nhưng tại sao bạn vẫn đặt cược vào họ? ***
**Suleyman:**Làn sóng AI đầu tiên là về phân loại. Deep learning cho thấy chúng ta có thể huấn luyện máy tính phân loại nhiều loại dữ liệu đầu vào: hình ảnh, video, âm thanh, ngôn ngữ. Bây giờ chúng ta đang ở trong làn sóng tổng hợp, nơi bạn lấy dữ liệu đầu vào và tạo dữ liệu mới.
Làn sóng thứ ba sẽ là giai đoạn tương tác. Đây là lý do tại sao từ lâu tôi đã tin rằng các cuộc trò chuyện là giao diện của tương lai. Bạn biết đấy, bạn sẽ nói chuyện với AI của mình thay vì chỉ nhấp vào nút và gõ.
Những AI này sẽ có thể hành động. Bạn chỉ cần đưa ra cho nó một mục tiêu tổng thể, cấp cao và nó sẽ sử dụng tất cả các công cụ có sẵn để đạt được mục tiêu đó. Họ nói chuyện với những người khác, với những AI khác. Đây là những gì chúng ta sẽ làm với Pi.
Đây là một sự thay đổi lớn mà công nghệ có thể tạo ra. Đây là một khoảnh khắc rất, rất sâu sắc trong lịch sử công nghệ mà tôi nghĩ nhiều người đã đánh giá thấp. Công nghệ ngày nay là tĩnh. Nói một cách đại khái, nó làm những gì bạn bảo nó làm.
Nhưng bây giờ công nghệ sắp trở nên sống động. Nếu bạn cho nó, nó sẽ có khả năng tự do hành động. Chúng tôi đang tạo ra các công cụ với loại tác nhân này, đây thực sự là một bước thay đổi trong lịch sử loài người chúng ta.
***Đây chính xác là câu nói khiến nhiều người lo lắng. Bạn muốn trao cho máy móc quyền tự chủ—một cơ quan—để tác động đến thế giới, nhưng chúng tôi cũng muốn có khả năng kiểm soát chúng. Làm thế nào để bạn cân bằng được hai điều đó? Tôi cảm thấy điều này sẽ làm căng thẳng mối quan hệ. ***
Suleyman: Vâng, đó là một ý kiến hay. Đó là điều khiến mọi người lo lắng.
Ý tưởng là con người sẽ luôn nắm quyền chỉ huy. Về cơ bản, đó là việc thiết lập các ranh giới mà AI không thể vượt qua. Và việc đảm bảo những ranh giới đó tạo ra sự bảo mật có thể chứng minh được, từ mã thực tế, đến cách nó tương tác với các AI (hoặc con người) khác, cho đến động lực và động lực của các công ty tạo ra công nghệ. Chúng ta nên tìm cách làm thế nào để các cơ quan độc lập và thậm chí cả chính phủ có thể trực tiếp vào cuộc để đảm bảo những ranh giới này không bị vượt qua.
***Ai đặt ra những ranh giới này? Tôi nghĩ chúng cần được đặt ở cấp độ quốc gia hoặc quốc tế. Họ đã đi đến thỏa thuận như thế nào? ***
Suleyman: Ý tôi là, hiện tại chúng đang được nâng lên ở cấp độ quốc tế với đủ loại đề xuất cho các cơ quan giám sát mới. Nhưng ranh giới cũng có tác dụng ở cấp độ vi mô. Bạn sẽ cấp cho AI một số quyền hạn chế để xử lý dữ liệu cá nhân của mình, cung cấp cho bạn câu trả lời cho một số câu hỏi nhưng không cung cấp cho bạn câu trả lời cho những câu hỏi khác.
Nhìn chung, tôi nghĩ chúng ta nên hết sức thận trọng hoặc thậm chí loại trừ một số khả năng nhất định trong tương lai gần.
***Ví dụ? ***
Suleyman: Tôi đoán là một kiểu tự cải thiện đệ quy. Bạn không muốn AI nhỏ của mình quay vòng và cập nhật mã riêng mà không có sự giám sát của bạn. Có lẽ nó thậm chí phải là một hoạt động được cấp phép - bạn biết đấy, như xử lý bệnh than hoặc vật liệu hạt nhân.
Hoặc, chúng tôi không cho phép sử dụng máy bay không người lái ở bất kỳ nơi công cộng nào, phải không? Đây là một hoạt động được cấp phép. Bạn không thể mang chúng đi bất cứ đâu bạn muốn vì chúng gây ra mối đe dọa cho quyền riêng tư của mọi người.
Tôi nghĩ mọi người đang hoảng sợ vì họ cho rằng chúng ta không thể quản lý được việc này. Nhưng đây chỉ là điều vô nghĩa. Chúng tôi hoàn toàn có khả năng điều chỉnh nó. Chúng tôi sẽ áp dụng khuôn khổ tương tự đã thành công trước đó.
***Nhưng bạn có thể nhìn thấy máy bay không người lái khi chúng ở trên bầu trời. Có vẻ ngây thơ khi nghĩ rằng các công ty sẽ chỉ tiết lộ những gì họ đang sản xuất. Điều đó có làm cho việc quản lý trở nên phức tạp không? ***
Chúng tôi cảnh sát rất nhiều thứ trực tuyến, phải không? Số lượng gian lận trực tuyến và hoạt động tội phạm thấp. Chúng tôi làm rất tốt việc xử lý thư rác. Bạn biết đấy, nói chung, [vấn đề] với phim khiêu dâm trả thù đã được cải thiện, mặc dù cách đây ba hoặc năm năm nó khá tệ. Việc tìm kiếm nội dung cực đoan hoặc tài liệu khủng bố trực tuyến là rất khó. Mua vũ khí và ma túy trực tuyến là rất khó khăn.
[Không phải tất cả các tuyên bố của Suleyman đều được dữ liệu hỗ trợ. Tội phạm mạng vẫn là một vấn đề toàn cầu lớn. Theo một số ước tính, chi phí tài chính chỉ riêng ở Hoa Kỳ đã tăng hơn 100 lần trong thập kỷ qua. Các báo cáo tiết lộ một nền kinh tế đang bùng nổ trong nội dung khiêu dâm deepfake không có sự đồng thuận. Ma túy và súng được rao bán trên mạng xã hội. Mặc dù một số nền tảng trực tuyến đang bị buộc phải thực hiện công việc lọc nội dung có hại tốt hơn nhưng họ có thể làm được nhiều hơn thế. ]
Vì vậy, Internet không phải là một không gian không được kiểm soát và ngang ngược. Nó được quản lý. AI sẽ trở thành một thành phần khác của quản trị.
Điều này đòi hỏi sự kết hợp của áp lực văn hóa, áp lực thể chế và quy định của chính phủ. Nhưng điều đó khiến tôi lạc quan rằng chúng ta đã làm được điều đó trước đây và chúng ta có thể làm lại điều đó.
***Việc kiểm soát AI sẽ trở thành một phần của quy định về internet – điều này lạc quan hơn nhiều so với những gì chúng ta đã nghe được từ một số nhà tiên đoán ngày tận thế nổi tiếng gần đây. ***
Suleyman: Tôi rất lạc quan về những rủi ro. Có rất nhiều thứ đen tối trong sách của tôi. Tôi chắc chắn cũng đã thấy điều đó. Tôi chỉ nghĩ có điều gì đó rủi ro về nó, đó là một sự xao lãng hoàn toàn điên rồ. 101 vấn đề thực tế hơn mà tất cả chúng ta nên thảo luận, từ quyền riêng tư đến thành kiến, từ nhận dạng khuôn mặt đến kiểm duyệt trực tuyến.
Chúng ta nên tập trung lại cuộc trò chuyện vào thực tế là chúng ta thực sự làm rất tốt việc điều chỉnh những thứ siêu phức tạp. Hãy nhìn vào Cục Hàng không Liên bang: Thật không thể tin được là tất cả chúng ta đều tuân theo quy định ở độ cao 40.000 feet và đó là một trong những phương thức vận chuyển an toàn nhất từng được tạo ra. Tại sao chúng ta không ăn mừng? Hoặc hãy nghĩ về một chiếc ô tô: mọi bộ phận đều được kiểm tra sức chịu đựng khi hết tuổi thọ và bạn phải có bằng lái xe để thực hiện việc đó.
Một số ngành công nghiệp, chẳng hạn như các hãng hàng không, đã làm rất tốt việc tự điều chỉnh ngay từ đầu. Họ biết rằng nếu không giữ mọi thứ an toàn, mọi người sẽ sợ hãi và họ sẽ mất việc kinh doanh.
Nhưng bạn cũng cần có quy định từ trên xuống. Tôi tin vào lợi ích công cộng, tôi tin vào lợi ích của việc đánh thuế và tái phân phối, tôi tin vào sức mạnh của quy định. Điều tôi kêu gọi là nhà nước phải hành động để giải quyết vấn đề. Với mức độ bị đe dọa, bây giờ là lúc phải hành động.
Người giới thiệu: