Đồ thị Mạng lưới kết hợp cho chuỗi thời gian- phần giới thiệu.

May 08 2022
Mạng tích hợp đồ thị (GCN) là một công cụ thay đổi trò chơi tuyệt đối trong lĩnh vực học sâu. Trong một loạt các bài đăng, chúng ta sẽ khám phá cách sử dụng GCN cho các tác vụ theo chuỗi thời gian.

Mạng tích hợp đồ thị (GCN) là một công cụ thay đổi trò chơi tuyệt đối trong lĩnh vực học sâu. Trong một loạt các bài đăng, chúng ta sẽ khám phá cách sử dụng GCN cho các tác vụ theo chuỗi thời gian. Các ví dụ thực tế đi kèm với hầu hết các bài đăng để cung cấp “cảm nhận” nhanh chóng về cách tiếp cận mạnh mẽ này.

Khuyến nghị : Bài đăng này giả định rằng bạn đã biết trước về GCN. Nếu bạn cần phần giới thiệu về GCN, tôi thực sự khuyên bạn nên tham khảo bài đăng của Michael Bronstein : Chúng ta có cần GNN sâu không . Ngoài ra, một bài giới thiệu thực hành của Tobias Skovgaard Jepsen .

Lý lịch

Mạng nơ ron đồ thị (GNN) và đặc biệt, mạng tích chập đồ thị (GCN) [1] có thể lập mô hình các thực thể và mối quan hệ của chúng. Một ví dụ đơn giản từ khoa học tự nhiên là các nguyên tử và các liên kết hóa học của chúng. Một ví dụ khác về kiểm soát giao thông là sự phụ thuộc của tốc độ đường giao thông giữa nhiều đoạn (sẽ được giới thiệu trong bài đăng này).

Khía cạnh học tập của đồ thị là khả năng tổng quát hóa một mô hình trong dữ liệu có cấu trúc đồ thị. Sự tổng quát hóa này được thực hiện bằng cách sử dụng tính năng học, trong đó phép toán tích chập đồ thị được áp dụng. Nghiên cứu rộng rãi đã được thực hiện trên dữ liệu văn bản và tầm nhìn. Tuy nhiên, không có nhiều tác phẩm trong miền chuỗi thời gian có GCN. Chúng tôi có thể làm gì nếu chúng tôi có các tính năng thay đổi theo thời gian? Đây là nơi một miền thú vị mới đã được giới thiệu gần đây…

Hình ảnh của tác giả

Đồ thị cho chuỗi thời gian

Bước đột phá của GCN đặt ra câu hỏi về việc sử dụng chuỗi thời gian và thậm chí là một số khả năng giải thích.

Như bạn có thể đoán, xử lý dữ liệu chuỗi thời gian kém trực quan hơn. Trong hầu hết các trường hợp, chúng ta không thể hình dung và biết được ý nghĩa của nó là gì, chẳng hạn như so với hình ảnh. Ngoài ra, hãy nhớ thuộc tính quan hệ nhân quả là rất quan trọng, vì vậy chúng tôi cần hứa hẹn một mô hình được đào tạo tốt, nơi chúng tôi không dự đoán quá khứ :)

Dữ liệu chuỗi thời gian về cơ bản khác với dữ liệu không gian. GCN kết hợp với RNN / LSTM / GRU có thể cho phép mạng chụp các đặc điểm không gian và thời gian cùng nhau . Cách tiếp cận này được đặt tên là GCN tạm thời (TGCN) và chúng tôi sẽ bắt đầu bằng cách khám phá nó với ví dụ Dự đoán lưu lượng [2].

TGCN: Dự đoán lưu lượng

Hãy xem xét một vấn đề về dự đoán tốc độ giao thông dựa trên lịch sử tốc độ giao thông cho một tập hợp các đoạn đường. Giải pháp giả định tốc độ giao thông của mỗi đoạn đường là một chuỗi thời gian riêng biệt. Nó dự đoán các giá trị trong tương lai của từng chuỗi thời gian bằng cách sử dụng các giá trị trong quá khứ của cùng một chuỗi thời gian. Điều này dẫn đến dự đoán tốc độ giao thông cho nhiều đoạn đường.

Như bạn có thể lưu ý, GRU là quá đủ để trích xuất tính năng tạm thời - tốc độ lưu lượng. Nhưng, có thông tin nào chúng ta có thể nhận được khi nhìn vào bức tranh lớn không? Người ta có thể nghĩ đến sự phụ thuộc của tốc độ đường giao thông giữa nhiều đoạn. GCN có thể đại diện cho sự phụ thuộc này.

Phương pháp đề xuất để giải quyết nó đã được trình bày trong [2]. Mạng lưu lượng được định nghĩa là một biểu đồ và tốc độ lưu lượng là một tín hiệu trên biểu đồ này. Đây là một ví dụ tuyệt vời về đồ thị có cấu trúc tĩnh (đường) và các đối tượng địa lý thay đổi theo thời gian. Xem xét mạng lưới đường như một biểu đồ có nghĩa là các đoạn riêng lẻ của một con đường là các nút trên một biểu đồ và các kết nối giữa các đoạn đó là các cạnh. Như bạn có thể hiểu, biểu đồ này sẽ không thay đổi theo thời gian (hầu như). Tuy nhiên, lượng truy cập thực sự sẽ thay đổi. Do đó, cần phải nắm bắt được cả đặc điểm không gian và thời gian.

Kiến trúc bao gồm một lớp tích chập đồ thị và một lớp đơn vị lặp lại định kỳ (GRU) trong bài toán được mô tả này.

Kiến trúc GCN và GRU để dự đoán lưu lượng. T-GCN: Mạng phù hợp đồ thị tạm thời để dự đoán lưu lượng. Ling Zhao và cộng sự, Giao dịch IEEE trên Hệ thống Giao thông Thông minh

- - -

Hãy đi sâu một chút vào tập dữ liệu của các đoạn đường. Chúng tôi tính toán các mối tương quan để tìm hiểu xem có bất kỳ sự phụ thuộc nào giữa các phân đoạn khác nhau hay không. Nếu đúng như vậy thì việc sử dụng GCN phải có cơ sở rõ ràng. Vì vậy, chúng tôi đã chọn 26 con đường trong số 228 con đường trong tập dữ liệu và vẽ bản đồ tương quan

Bản đồ tương quan (của tác giả)

Rõ ràng, các phân đoạn 4–5–6–7 và 19–20–21 có mối tương quan cao. Do đó, có một động lực vững chắc để bao gồm các tính năng không gian như GCN. Trong bài báo của họ, Ling Zhao et al. đã đề xuất một kiến ​​trúc cho phép dự báo trên biểu đồ bao gồm một lớp tích chập đồ thị cho các đối tượng không gian và một lớp GRU cho các đối tượng thời gian. Chúng tôi đã chơi với mã [3] và sắp xếp nó trong Colab để “chạy và chơi” [4] nhanh chóng. Dự báo khá tốt và chúng tôi mời bạn điều chỉnh theo cách khác, chạy trong nhiều kỷ nguyên hơn và so sánh với các mô hình khác.

Keras.io Hướng dẫn dự báo lưu lượng theo chuỗi thời gian

Tóm lược

Mạng tích chập đồ thị là một khái niệm rất độc đáo và mang tính cách mạng. Có nhiều ứng dụng cho miền chuỗi thời gian, yêu cầu điều chỉnh khái niệm để bao gồm một số thành phần thời gian. Chúng tôi đã thảo luận về bài toán dự đoán tốc độ giao thông để chứng minh sức mạnh của TGCN và trình bày bản đồ tương quan để làm nổi bật động lực.

Giới thiệu về tác giả

Barak Hoặc nhận được B.Sc. (2016), M.Sc. (2018) bằng kỹ sư hàng không vũ trụ, và bằng cử nhân kinh tế và quản lý (2016, Cum Laude) từ Học viện Công nghệ Technion, Israel. Anh ấy đã làm việc cho Qualcomm (2019–2020), nơi anh ấy chủ yếu xử lý các thuật toán Máy học và Xử lý tín hiệu. Barak hiện đang theo học Tiến sĩ của mình. tại Đại học Haifa. Mối quan tâm nghiên cứu của anh ấy bao gồm kết hợp cảm biến, điều hướng, học sâu và lý thuyết ước tính.

Đọc thêm và nhận xét

[1] GCN lần đầu tiên được giới thiệu trong “Mạng phổ và Mạng kết nối cục bộ sâu trên đồ thị” (Bruna và cộng sự, 2014).

[2] Một bài báo có tên “T-GCN: Mạng lưới đồ thị tạm thời cho dự đoán lưu lượng” của Ling Zhao và cộng sự đã được xuất bản trong IEEE, 2020.

[3] Có thể tìm thấy mã kèm theo trên trang hướng dẫn của Keras. trên trang web. Arash Khodadadi là tác giả của hướng dẫn Keras cho bài báo này.

[4] Triển khai Colab: Timeseries_Traffic_Forecasting

[5] Chúng ta có cần mạng nơ-ron đồ thị sâu không - của Michael Bronstein

© Copyright 2021 - 2022 | vngogo.com | All Rights Reserved