A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions

Descripción del Articulo

En los últimos años, la necesidad de análisis sobre grandes volúmenes de datos se ha vuelto cada vez más importante. Esto llega a ser sumamente útil en la toma de decisiones estratégicas sobre diferentes aplicaciones. De esta manera, se deben diseñar mecanismos apropiados para realizar el tratamient...

Descripción completa

Detalles Bibliográficos
Autor: Laureano Gutierrez, Sergio Fernando
Formato: tesis de grado
Fecha de Publicación:2022
Institución:Universidad Nacional de San Agustín
Repositorio:UNSA-Institucional
Lenguaje:español
OAI Identifier:oai:repositorio.unsa.edu.pe:20.500.12773/15629
Enlace del recurso:http://hdl.handle.net/20.500.12773/15629
Nivel de acceso:acceso abierto
Materia:Cloud Computing Architecture
Pub/Sub
Cloud function
Cloud service
Serverless
https://purl.org/pe-repo/ocde/ford#2.02.04
id UNSA_249dd5968e25963deb8e5f30c43bc763
oai_identifier_str oai:repositorio.unsa.edu.pe:20.500.12773/15629
network_acronym_str UNSA
network_name_str UNSA-Institucional
repository_id_str 4847
dc.title.es_PE.fl_str_mv A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
title A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
spellingShingle A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
Laureano Gutierrez, Sergio Fernando
Cloud Computing Architecture
Pub/Sub
Cloud function
Cloud service
Serverless
https://purl.org/pe-repo/ocde/ford#2.02.04
title_short A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
title_full A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
title_fullStr A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
title_full_unstemmed A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
title_sort A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
author Laureano Gutierrez, Sergio Fernando
author_facet Laureano Gutierrez, Sergio Fernando
author_role author
dc.contributor.advisor.fl_str_mv Pérez Vera, Yasiel
dc.contributor.author.fl_str_mv Laureano Gutierrez, Sergio Fernando
dc.subject.es_PE.fl_str_mv Cloud Computing Architecture
Pub/Sub
Cloud function
Cloud service
Serverless
topic Cloud Computing Architecture
Pub/Sub
Cloud function
Cloud service
Serverless
https://purl.org/pe-repo/ocde/ford#2.02.04
dc.subject.ocde.es_PE.fl_str_mv https://purl.org/pe-repo/ocde/ford#2.02.04
description En los últimos años, la necesidad de análisis sobre grandes volúmenes de datos se ha vuelto cada vez más importante. Esto llega a ser sumamente útil en la toma de decisiones estratégicas sobre diferentes aplicaciones. De esta manera, se deben diseñar mecanismos apropiados para realizar el tratamiento de datos y su integración con diferentes plataformas para aprovechar las ventajas que éstas nos brindan. En el presente trabajo, se muestra una arquitectura que trabaja sobre servicios cloud para realizar una migración de datos almacenados en Big Query a un motor de analítica como Elasticsearch y aprovechar su potencial en operaciones de consulta, inserción y despliegue de visualizaciones. Esto se logra por medio del uso de Cloud Functions y Pub/Sub. La integración de estas plataformas mediante la arquitectura propuesta, mostró una efectividad del 100% al trasladar los datos de una a otra, manteniendo una tasa de inserción de 4,138.30 documentos por segundo, demostrando su robustez, eficiencia y versatilidad al realizar la migración de datos.
publishDate 2022
dc.date.accessioned.none.fl_str_mv 2023-03-14T15:09:41Z
dc.date.available.none.fl_str_mv 2023-03-14T15:09:41Z
dc.date.issued.fl_str_mv 2022
dc.type.es_PE.fl_str_mv info:eu-repo/semantics/bachelorThesis
format bachelorThesis
dc.identifier.uri.none.fl_str_mv http://hdl.handle.net/20.500.12773/15629
url http://hdl.handle.net/20.500.12773/15629
dc.language.iso.es_PE.fl_str_mv spa
language spa
dc.relation.ispartof.fl_str_mv SUNEDU
dc.rights.es_PE.fl_str_mv info:eu-repo/semantics/openAccess
dc.rights.uri.es_PE.fl_str_mv http://creativecommons.org/licenses/by-nc-nd/4.0/
eu_rights_str_mv openAccess
rights_invalid_str_mv http://creativecommons.org/licenses/by-nc-nd/4.0/
dc.format.es_PE.fl_str_mv application/pdf
dc.publisher.es_PE.fl_str_mv Universidad Nacional de San Agustín de Arequipa
dc.publisher.country.es_PE.fl_str_mv PE
dc.source.es_PE.fl_str_mv Universidad Nacional de San Agustín de Arequipa
Repositorio Institucional - UNSA
dc.source.none.fl_str_mv reponame:UNSA-Institucional
instname:Universidad Nacional de San Agustín
instacron:UNSA
instname_str Universidad Nacional de San Agustín
instacron_str UNSA
institution UNSA
reponame_str UNSA-Institucional
collection UNSA-Institucional
bitstream.url.fl_str_mv https://repositorio.unsa.edu.pe/bitstreams/f6e78124-b899-4ec0-8983-8fdb4c2d5e38/download
https://repositorio.unsa.edu.pe/bitstreams/97fa804a-b9c2-4620-8701-63b7d6952551/download
bitstream.checksum.fl_str_mv c4de76bfde9a3b85716ca1d638574665
c52066b9c50a8f86be96c82978636682
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Repositorio Institucional UNSA
repository.mail.fl_str_mv repositorio@unsa.edu.pe
_version_ 1828763138623799296
spelling Pérez Vera, YasielLaureano Gutierrez, Sergio Fernando2023-03-14T15:09:41Z2023-03-14T15:09:41Z2022En los últimos años, la necesidad de análisis sobre grandes volúmenes de datos se ha vuelto cada vez más importante. Esto llega a ser sumamente útil en la toma de decisiones estratégicas sobre diferentes aplicaciones. De esta manera, se deben diseñar mecanismos apropiados para realizar el tratamiento de datos y su integración con diferentes plataformas para aprovechar las ventajas que éstas nos brindan. En el presente trabajo, se muestra una arquitectura que trabaja sobre servicios cloud para realizar una migración de datos almacenados en Big Query a un motor de analítica como Elasticsearch y aprovechar su potencial en operaciones de consulta, inserción y despliegue de visualizaciones. Esto se logra por medio del uso de Cloud Functions y Pub/Sub. La integración de estas plataformas mediante la arquitectura propuesta, mostró una efectividad del 100% al trasladar los datos de una a otra, manteniendo una tasa de inserción de 4,138.30 documentos por segundo, demostrando su robustez, eficiencia y versatilidad al realizar la migración de datos.application/pdfhttp://hdl.handle.net/20.500.12773/15629spaUniversidad Nacional de San Agustín de ArequipaPEinfo:eu-repo/semantics/openAccesshttp://creativecommons.org/licenses/by-nc-nd/4.0/Universidad Nacional de San Agustín de ArequipaRepositorio Institucional - UNSAreponame:UNSA-Institucionalinstname:Universidad Nacional de San Agustíninstacron:UNSACloud Computing ArchitecturePub/SubCloud functionCloud serviceServerlesshttps://purl.org/pe-repo/ocde/ford#2.02.04A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functionsinfo:eu-repo/semantics/bachelorThesisSUNEDU1981684https://orcid.org/0000-0001-9421-952972892559612076Huertas Niquen, Percy OscarRamirez Valdez, Oscar AlbertoPérez Vera, Yasielhttp://purl.org/pe-repo/renati/level#tituloProfesionalhttp://purl.org/pe-repo/renati/type#tesisIngeniería de SistemasUniversidad Nacional de San Agustín de Arequipa.Facultad de Ingeniería de Producción y ServiciosIngeniero de SistemasORIGINALISlagusf.pdfISlagusf.pdfapplication/pdf1345856https://repositorio.unsa.edu.pe/bitstreams/f6e78124-b899-4ec0-8983-8fdb4c2d5e38/downloadc4de76bfde9a3b85716ca1d638574665MD51LICENSElicense.txtlicense.txttext/plain; charset=utf-81327https://repositorio.unsa.edu.pe/bitstreams/97fa804a-b9c2-4620-8701-63b7d6952551/downloadc52066b9c50a8f86be96c82978636682MD5220.500.12773/15629oai:repositorio.unsa.edu.pe:20.500.12773/156292023-03-14 12:09:28.975http://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccesshttps://repositorio.unsa.edu.peRepositorio Institucional UNSArepositorio@unsa.edu.pe77u/TGljZW5jaWEgZGUgVXNvCiAKRWwgUmVwb3NpdG9yaW8gSW5zdGl0dWNpb25hbCwgZGlmdW5kZSBtZWRpYW50ZSBsb3MgdHJhYmFqb3MgZGUgaW52ZXN0aWdhY2nDs24gcHJvZHVjaWRvcyBwb3IgbG9zIG1pZW1icm9zIGRlIGxhIHVuaXZlcnNpZGFkLiBFbCBjb250ZW5pZG8gZGUgbG9zIGRvY3VtZW50b3MgZGlnaXRhbGVzIGVzIGRlIGFjY2VzbyBhYmllcnRvIHBhcmEgdG9kYSBwZXJzb25hIGludGVyZXNhZGEuCgpTZSBhY2VwdGEgbGEgZGlmdXNpw7NuIHDDumJsaWNhIGRlIGxhIG9icmEsIHN1IGNvcGlhIHkgZGlzdHJpYnVjacOzbi4gUGFyYSBlc3RvIGVzIG5lY2VzYXJpbyBxdWUgc2UgY3VtcGxhIGNvbiBsYXMgc2lndWllbnRlcyBjb25kaWNpb25lczoKCkVsIG5lY2VzYXJpbyByZWNvbm9jaW1pZW50byBkZSBsYSBhdXRvcsOtYSBkZSBsYSBvYnJhLCBpZGVudGlmaWNhbmRvIG9wb3J0dW5hIHkgY29ycmVjdGFtZW50ZSBhIGxhIHBlcnNvbmEgcXVlIHBvc2VhIGxvcyBkZXJlY2hvcyBkZSBhdXRvci4KCk5vIGVzdMOhIHBlcm1pdGlkbyBlbCB1c28gaW5kZWJpZG8gZGVsIHRyYWJham8gZGUgaW52ZXN0aWdhY2nDs24gY29uIGZpbmVzIGRlIGx1Y3JvIG8gY3VhbHF1aWVyIHRpcG8gZGUgYWN0aXZpZGFkIHF1ZSBwcm9kdXpjYSBnYW5hbmNpYXMgYSBsYXMgcGVyc29uYXMgcXVlIGxvIGRpZnVuZGVuIHNpbiBlbCBjb25zZW50aW1pZW50byBkZWwgYXV0b3IgKGF1dG9yIGxlZ2FsKS4KCkxvcyBkZXJlY2hvcyBtb3JhbGVzIGRlbCBhdXRvciBubyBzb24gYWZlY3RhZG9zIHBvciBsYSBwcmVzZW50ZSBsaWNlbmNpYSBkZSB1c28uCgpEZXJlY2hvcyBkZSBhdXRvcgoKTGEgdW5pdmVyc2lkYWQgbm8gcG9zZWUgbG9zIGRlcmVjaG9zIGRlIHByb3BpZWRhZCBpbnRlbGVjdHVhbC4gTG9zIGRlcmVjaG9zIGRlIGF1dG9yIHNlIGVuY3VlbnRyYW4gcHJvdGVnaWRvcyBwb3IgbGEgbGVnaXNsYWNpw7NuIHBlcnVhbmE6IExleSBzb2JyZSBlbCBEZXJlY2hvIGRlIEF1dG9yIHByb211bGdhZG8gZW4gMTk5NiAoRC5MLiBOwrA4MjIpLCBMZXkgcXVlIG1vZGlmaWNhIGxvcyBhcnTDrWN1bG9zIDE4OMKwIHkgMTg5wrAgZGVsIGRlY3JldG8gbGVnaXNsYXRpdm8gTsKwODIyLCBMZXkgc29icmUgZGVyZWNob3MgZGUgYXV0b3IgcHJvbXVsZ2FkbyBlbiAyMDA1IChMZXkgTsKwMjg1MTcpLCBEZWNyZXRvIExlZ2lzbGF0aXZvIHF1ZSBhcHJ1ZWJhIGxhIG1vZGlmaWNhY2nDs24gZGVsIERlY3JldG8gTGVnaXNsYXRpdm8gTsKwODIyLCBMZXkgc29icmUgZWwgRGVyZWNobyBkZSBBdXRvciBwcm9tdWxnYWRvIGVuIDIwMDggKEQuTC4gTsKwMTA3NikuCg==
score 13.754011
Nota importante:
La información contenida en este registro es de entera responsabilidad de la institución que gestiona el repositorio institucional donde esta contenido este documento o set de datos. El CONCYTEC no se hace responsable por los contenidos (publicaciones y/o datos) accesibles a través del Repositorio Nacional Digital de Ciencia, Tecnología e Innovación de Acceso Abierto (ALICIA).