çoklu pCollections girişli python pardo ile apache beam

Sep 21 2020

Apache_beam'de yeniyim ve bir ardışık düzen geliştirmeye çalışıyorum. Aynı formatta 2 pCollections'ım var ve diğer formatta başka bir pCollection var. PCollection 3'teki her öğe için bir değere bağlı olarak bir ParDo işlevi yapmaya çalışıyorum o öğe pCollection 1 veya 2'de varsa pCollection 1 veya 2'nin bilgisiyle çıktıyı tamamlamak için bu öğeyi arayın. .

Bu benim kodum:

output = (
      pCollection1, pCollection2, pCollection3
      | 'ParDo function' >> beam.ParDo(SearchData()))

Ve bu benim ParDo işlevim:

class SampleScores(beam.DoFn):
    def process(self,element):
      
      # here I don't know how call a collection because I have only a "element"

      return xxx

Teşekkürler

Yanıtlar

Jorge Sep 23 2020 at 13:35

Çözüldü.

Yan girişlere baktınız mı? beam.apache.org/documentation/programming-guide/#side- inputs Sorunuzu doğru anlarsam, istediğiniz şey sürece sahip olmaktır (self, element, pcoll1, pcoll2), yan girdiler bu konuda size yardımcı olabilir. - Milan Cermak dün

Teşekkürler @MilanCermak