In the era of information explosion, Big data is receiving increased attention as having important implications for growth, profitability, and survival of modern organizations. However, it also offers many challenges in the way data is processed and queried over time. A join operation is one of the most common operations appearing in many data queries. Specially, a recursive join is a join type used to query hierarchical data but it is more extremely complex and costly. The evaluation of the recursive join in MapReduce includes some iterations of two tasks of a join task and an incremental computation task. Those tasks are significantly expensive and reduce the performance of queries in large datasets because they generate plenty of intermediate data transmitting over the network. In this study, we thus propose a simple but efficient approach for Big recursive joins based on reducing by half the number of the required iterations in the Spark environment. This improvement leads to significantly reducing the number of the required tasks as well as the amount of the intermediate data generated and transferred over the network. Our experimental results show that an improved recursive join is more efficient and faster than a traditional one on large-scale datasets.
Tạp chí: Hội nghị khoa học quốc gia lần thứ XVI về Nghiên cứu cơ bản và ứng dụng Công nghệ thông tin (FAIR 2023), Trường Đại học Sư phạm Kỹ thuật - Đại học Đà Nẵng, 28-29/09/2023
Tạp chí: Hội nghị khoa học quốc gia về "Nghiên cứu cơ bản và ứng dụng Công nghệ thông tin" (Hội nghị FAIR 2021), tại Trường Đại học Công nghiệp Thực phẩm TP. Hồ Chí Minh (HUFI), vào 2 ngày thứ năm và thứ sáu, 23 - 24/12/2021
Tạp chí: Hội nghị khoa học quốc gia về "Nghiên cứu cơ bản và ứng dụng Công nghệ thông tin" (Hội nghị FAIR 2021), tại Trường Đại học Công nghiệp Thực phẩm TP. Hồ Chí Minh (HUFI), vào 2 ngày thứ năm và thứ sáu, 23 - 24/12/2021
Tạp chí: Hội nghị khoa học quốc gia về "Nghiên cứu cơ bản và ứng dụng Công nghệ thông tin" (Hội nghị FAIR 2021), tại Trường Đại học Công nghiệp Thực phẩm TP. Hồ Chí Minh (HUFI), vào 2 ngày thứ năm và thứ sáu, 23 - 24/12/2021
Tạp chí: Hội nghị khoa học quốc gia về "Nghiên cứu cơ bản và ứng dụng Công nghệ thông tin" (Hội nghị FAIR 2021), tại Trường Đại học Công nghiệp Thực phẩm TP. Hồ Chí Minh (HUFI), vào 2 ngày thứ năm và thứ sáu, 23 - 24/12/2021
Tạp chí: Hội nghị khoa học quốc gia về "Nghiên cứu cơ bản và ứng dụng Công nghệ thông tin" (Hội nghị FAIR 2021), tại Trường Đại học Công nghiệp Thực phẩm TP. Hồ Chí Minh (HUFI), vào 2 ngày thứ năm và thứ sáu, 23 - 24/12/2021
Tạp chí khoa học Trường Đại học Cần Thơ
Lầu 4, Nhà Điều Hành, Khu II, đường 3/2, P. Xuân Khánh, Q. Ninh Kiều, TP. Cần Thơ
Điện thoại: (0292) 3 872 157; Email: tapchidhct@ctu.edu.vn
Chương trình chạy tốt nhất trên trình duyệt IE 9+ & FF 16+, độ phân giải màn hình 1024x768 trở lên