Çfarë është reduktimi me çelës?
Çfarë është reduktimi me çelës?

Video: Çfarë është reduktimi me çelës?

Video: Çfarë është reduktimi me çelës?
Video: Artan Hoxha tregon kush është “Fantazma” që ekzekuton me dorën e majtë 2024, Nëntor
Anonim

Funksioni Spark RDD reduceByKey bashkon vlerat për secilën Celës duke përdorur një asociativ reduktuar funksionin. Kjo do të thotë intuitivisht, ky funksion prodhon të njëjtin rezultat kur zbatohet në mënyrë të përsëritur në të njëjtin grup të dhënash RDD me ndarje të shumta pavarësisht nga renditja e elementit.

Atëherë, cili është ndryshimi midis groupByKey dhe reduceByKey?

groupByKey () është thjesht për të grupuar të dhënat tuaja bazuar në një çelës. reduceByKey () është diçka si grupimi + grumbullimi. reduceByKey mund të përdoret kur punojmë në grup të madh të dhënash. aggregateByKey() është logjikisht i njëjtë si reduceByKey () por ju lejon të ktheni rezultatin në të ndryshme lloji.

Dije gjithashtu, pse reduktimi është veprimi në shkëndijë? Ulja e shkëndijave operacioni është një veprim lloj operacioni dhe shkakton një ekzekutim të plotë të DAG për të gjitha udhëzimet dembele të rreshtuara. Shkëndija RDD reduktuar funksioni redukton elementet e kësaj RDD duke përdorur operatorin binar komutativ dhe asociativ të specifikuar. Ulja e shkëndijave Operacioni është pothuajse i ngjashëm me reduktuar metodë në Scala.

Përveç më lart, çfarë është Pairrdd?

Spark ofron operacione speciale në RDD që përmbajnë çifte çelësi/vlere. Këto RDD quhen RDD çift. RDD-të e çifteve janë një bllok i dobishëm ndërtimi në shumë programe, pasi ato ekspozojnë operacione që ju lejojnë të veproni në secilin çelës paralelisht ose të rigruponi të dhënat në të gjithë rrjetin. Çiftet RRD janë çifte KEY/VALUE.

A është reduceByKey një veprim?

Reduce() nxjerr një koleksion i cili nuk i shtohet grafikut aciklik të drejtuar (DAG), kështu që zbatohet si një veprim . Megjithatë, reduceByKey () kthen një RDD që është vetëm një nivel/gjendje tjetër në DAG, prandaj është një transformim.

Recommended: