Rất phù hợp để đọc lại trong thời đại AI hiện nay - bắn cá đổi tiền
Đây là số thứ 15 của Tuần Báo Thập Nguyệt, tiêu đề bacarat được lấy cảm hứng từ bài viết đầu tiên. Nhìn chung, trong tuần này tôi đã đọc không ít nội dung liên quan đến trí tuệ nhân tạo và lịch sử công nghệ, trong đó có vài bài viết cũ, năm xuất bản được ghi sau tiêu đề.
Hai số gần đây đều xoay quanh một chủ đề cụ thể, tôi rút ra hai điều:
- Cần chủ động tìm kiếm thông tin, bạn sẽ phát hiện ra những nội dung cũ nhưng vẫn còn giá trị theo thời gian.
- Có thể tìm thấy sự kết nối giữa các bài viết khác nhau, ghép nối các kiến thức và quan điểm riêng lẻ thành một bức tranh hoàn chỉnh.
Cảm giác này thực sự rất thú vị.
Trí Tuệ Nhân Tạo và Lịch Sử Công Nghệ
Phần này gồm 5 nội dung, ngoài podcast của Mộc Diễu là mới nhất, 4 bài còn lại đều được xuất bản trước năm 2019, bài sớm nhất là năm 1999.
Làm Thế Nào Để Ngừng Lo Lắng và Học Cách Yêu Thương Internet - Douglas Adams / 1999 Quan điểm chính của bài viết đã được phản ánh trong tiêu đề: ngừng lo lắng và học cách yêu thương internet. Rất phù hợp để đọc lại trong thời đại AI hiện nay.
Trích dẫn đoạn sau đây:
- Những thứ tồn tại khi bạn sinh ra, bạn sẽ xem như bình thường.
- Những phát minh mới xuất hiện từ khi sinh ra đến trước 30 tuổi sẽ khiến bạn hào hứng, nếu may mắn, có thể trở thành nghề nghiệp của bạn. [Hãy nghĩ về những người làm việc trong ngành công nghệ thông tin thuộc thế hệ 8x và 9x]
- Bất kỳ phát minh nào xuất hiện sau 30 tuổi đều bị coi là trái với quy luật tự nhiên, là kẻ hủy diệt nền văn minh, cho đến khi phát minh đó tồn tại hơn 10 năm, bạn sẽ nhận ra nó không đáng sợ đến vậy.
Từ góc độ khả năng thích ứng của con người, điều này nhắc tôi nhớ đến một câu nói nổi tiếng của Romain Rolland: "Hầu hết mọi người đều chết vào tuổi hai mươi hoặc ba mươi, họ trở thành bóng ma của chính mình, và phần đời còn lại chỉ là sự sao chép hàng ngày."
Ngoài ra, hiện tại giá của ChatGPT không hề rẻ, hiệu suất cũng chỉ ở mức trung bình, và ứng dụng bắn cá đổi thưởng thực tế còn hạn chế, tất cả những điều này giống hệt giai đoạn ban đầu của internet. Tương tự như internet ngày xưa, trong tương lai dịch vụ AI sẽ trở nên cực kỳ mạnh mẽ, dễ tiếp cận và giá cả phải chăng.
[Podcast] Thời Đại Điên Loạn Của AI, Con Người Còn Giá Trị Gì? - Mộc Diễu và cộng sự
Lịch Sử Của Trí Tuệ Nhân Tạo - Rockwell Anyoha / 2017 Ví dụ:
v.v...
Chiến Ký Hinton Với AI - sayonly / 2018 Bài viết đề cập đến ba lý do mà mạng lưới thần kinh bị nghi ngờ:
- Thiếu lý thuyết: hộp đen, không giải thích được
- Không thể suy luận: ChatGPT hiện tại đã xuất hiện khả năng CoT (Chain of Thought)
- Không phù hợp về mặt sinh học: NN sử dụng BP, trong khi sự thay đổi trọng số của các nơron não dựa trên STDP.
Hai lý do đầu tiên tôi đã gặp trong nhiều bài viết, lý do thứ ba thì lần đầu tiên nghe, rất kỹ thuật.
Khi thảo luận về nghi vấn "thiếu lý thuyết", tác giả sử dụng mối quan hệ giữa toán học và vật lý để so sánh. Trong lịch sử, trong thời gian dài lý thuyết toán học luôn đi trước vật lý, nhưng đến thời hiện đại, vật lý lại đi trước toán học, một số nghiên cứu vật lý đã thúc đẩy sự tiến bộ của toán học.
Ai nói rằng nghiên cứu về mạng lưới thần kinh sẽ không đi theo con đường tương tự? Về sự thành công của mạng lưới thần kinh, có một giả thuyết táo bạo: trí tuệ của con người, năng lực cơ bản không phải là lý tính (khả năng suy luận), mà là khả năng bắt chước.
Bài Học Đắng Ngắt - Rich Sutton / 2019 Về trí tuệ nhân tạo, từng có cuộc tranh cãi về phương hướng: thêm kiến thức quy tắc của con người vào hệ thống vs đạt được trí thông minh chỉ bằng thống kê và tính toán thuần túy. Quan điểm chính của bài viết là, cần rút ra bài học từ lịch sử, việc thêm quy tắc của con người vào AI có thể hiệu quả trong ngắn hạn, nhưng về lâu dài, chỉ cần sức mạnh tính toán được đột phá, những quy tắc của con người thêm vào sẽ trở nên không đáng kể.
Phân Tích Công Nghệ Mô Hình GPT
Hai bài viết này cũng có thể coi là lịch sử, là lịch sử chi tiết về công nghệ của ChatGPT.
Phân tích nguồn gốc các khả năng của Kèo cái GPT-3.5 - Phụ Dược GPT-3 được phát hành vào tháng 6 năm 2020, ChatGPT được phát hành vào cuối tháng 11 năm 2022, giữa hai thời điểm này có hơn hai năm, bài viết này qua các thông tin công khai đã phân tích và phỏng đoán công việc của OpenAI trong hai năm qua, cách GPT-3 dần dần biến đổi thành ChatGPT khiến mọi người ngạc nhiên.
Hiểu sâu về khả năng đột biến của mô hình ngôn ngữ - Phụ Dược Bài viết giới thiệu về khả năng đột biến (dịch phổ biến khác là khả năng bùng nổ). Trong bài có đề cập đến kiến thức, ChatGPT không có dữ liệu kiến thức bên ngoài, nghĩa là tất cả kiến thức đều tồn tại trong mô hình, và trong mô hình đó chính là 175 tỷ tham số. Nghĩa là, kiến thức của thế giới được lưu trữ một cách ẩn danh trong 175 tỷ tham số này, rất giống với cách kiến thức của con người được lưu trữ ẩn danh trong các nơron (ở mức trừu tượng).
Xem Thử
Lời Khuyên Cho Các Nhà Phê Bình Trẻ - Matt Zoller Seitz / 2014 Nếu viết phê bình phim:
v.v...
Quả Táo Đã Được Ăn Một Miếng Có Thể Mang Về Không? - Neverland Một thử nghiệm rất thú vị, Neverland đã xuất toàn bộ dữ liệu từ dịch vụ Apple và lưu trữ chúng, đồng thời nghiên cứu về những dữ liệu mà Apple đã thu thập.
Công Cụ Và Tài Nguyên
Một Thử Nghiệm Lọc RSS Miễn Phí Trên Máy: NetNewsWire - UNTAG Tôi đang sử dụng NetNewsWire làm trình đọc RSS chính, vừa lúc có nhu cầu lọc bài, tìm được bài viết này, nó sử dụng AppleScript để đáp ứng nhu cầu lọc bài, đánh dấu trực tiếp các bài viết chứa từ khóa cụ thể là đã đọc, gián tiếp thực hiện chức năng lọc.
Mã code trong bài nếu sử dụng trực tiếp có thể báo lỗi, cần sửa đổi phù hợp với các nguồn đăng ký của bạn. Tôi vẫn đang nghiên cứu, chưa xây dựng được khả năng lọc hoàn chỉnh.