A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions
Descripción del Articulo
En los últimos años, la necesidad de análisis sobre grandes volúmenes de datos se ha vuelto cada vez más importante. Esto llega a ser sumamente útil en la toma de decisiones estratégicas sobre diferentes aplicaciones. De esta manera, se deben diseñar mecanismos apropiados para realizar el tratamient...
Autor: | |
---|---|
Formato: | tesis de grado |
Fecha de Publicación: | 2022 |
Institución: | Universidad Nacional de San Agustín |
Repositorio: | UNSA-Institucional |
Lenguaje: | español |
OAI Identifier: | oai:repositorio.unsa.edu.pe:20.500.12773/15629 |
Enlace del recurso: | http://hdl.handle.net/20.500.12773/15629 |
Nivel de acceso: | acceso abierto |
Materia: | Cloud Computing Architecture Pub/Sub Cloud function Cloud service Serverless https://purl.org/pe-repo/ocde/ford#2.02.04 |
id |
UNSA_249dd5968e25963deb8e5f30c43bc763 |
---|---|
oai_identifier_str |
oai:repositorio.unsa.edu.pe:20.500.12773/15629 |
network_acronym_str |
UNSA |
network_name_str |
UNSA-Institucional |
repository_id_str |
4847 |
dc.title.es_PE.fl_str_mv |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions |
title |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions |
spellingShingle |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions Laureano Gutierrez, Sergio Fernando Cloud Computing Architecture Pub/Sub Cloud function Cloud service Serverless https://purl.org/pe-repo/ocde/ford#2.02.04 |
title_short |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions |
title_full |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions |
title_fullStr |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions |
title_full_unstemmed |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions |
title_sort |
A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functions |
author |
Laureano Gutierrez, Sergio Fernando |
author_facet |
Laureano Gutierrez, Sergio Fernando |
author_role |
author |
dc.contributor.advisor.fl_str_mv |
Pérez Vera, Yasiel |
dc.contributor.author.fl_str_mv |
Laureano Gutierrez, Sergio Fernando |
dc.subject.es_PE.fl_str_mv |
Cloud Computing Architecture Pub/Sub Cloud function Cloud service Serverless |
topic |
Cloud Computing Architecture Pub/Sub Cloud function Cloud service Serverless https://purl.org/pe-repo/ocde/ford#2.02.04 |
dc.subject.ocde.es_PE.fl_str_mv |
https://purl.org/pe-repo/ocde/ford#2.02.04 |
description |
En los últimos años, la necesidad de análisis sobre grandes volúmenes de datos se ha vuelto cada vez más importante. Esto llega a ser sumamente útil en la toma de decisiones estratégicas sobre diferentes aplicaciones. De esta manera, se deben diseñar mecanismos apropiados para realizar el tratamiento de datos y su integración con diferentes plataformas para aprovechar las ventajas que éstas nos brindan. En el presente trabajo, se muestra una arquitectura que trabaja sobre servicios cloud para realizar una migración de datos almacenados en Big Query a un motor de analítica como Elasticsearch y aprovechar su potencial en operaciones de consulta, inserción y despliegue de visualizaciones. Esto se logra por medio del uso de Cloud Functions y Pub/Sub. La integración de estas plataformas mediante la arquitectura propuesta, mostró una efectividad del 100% al trasladar los datos de una a otra, manteniendo una tasa de inserción de 4,138.30 documentos por segundo, demostrando su robustez, eficiencia y versatilidad al realizar la migración de datos. |
publishDate |
2022 |
dc.date.accessioned.none.fl_str_mv |
2023-03-14T15:09:41Z |
dc.date.available.none.fl_str_mv |
2023-03-14T15:09:41Z |
dc.date.issued.fl_str_mv |
2022 |
dc.type.es_PE.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
dc.identifier.uri.none.fl_str_mv |
http://hdl.handle.net/20.500.12773/15629 |
url |
http://hdl.handle.net/20.500.12773/15629 |
dc.language.iso.es_PE.fl_str_mv |
spa |
language |
spa |
dc.relation.ispartof.fl_str_mv |
SUNEDU |
dc.rights.es_PE.fl_str_mv |
info:eu-repo/semantics/openAccess |
dc.rights.uri.es_PE.fl_str_mv |
http://creativecommons.org/licenses/by-nc-nd/4.0/ |
eu_rights_str_mv |
openAccess |
rights_invalid_str_mv |
http://creativecommons.org/licenses/by-nc-nd/4.0/ |
dc.format.es_PE.fl_str_mv |
application/pdf |
dc.publisher.es_PE.fl_str_mv |
Universidad Nacional de San Agustín de Arequipa |
dc.publisher.country.es_PE.fl_str_mv |
PE |
dc.source.es_PE.fl_str_mv |
Universidad Nacional de San Agustín de Arequipa Repositorio Institucional - UNSA |
dc.source.none.fl_str_mv |
reponame:UNSA-Institucional instname:Universidad Nacional de San Agustín instacron:UNSA |
instname_str |
Universidad Nacional de San Agustín |
instacron_str |
UNSA |
institution |
UNSA |
reponame_str |
UNSA-Institucional |
collection |
UNSA-Institucional |
bitstream.url.fl_str_mv |
https://repositorio.unsa.edu.pe/bitstreams/f6e78124-b899-4ec0-8983-8fdb4c2d5e38/download https://repositorio.unsa.edu.pe/bitstreams/97fa804a-b9c2-4620-8701-63b7d6952551/download |
bitstream.checksum.fl_str_mv |
c4de76bfde9a3b85716ca1d638574665 c52066b9c50a8f86be96c82978636682 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 |
repository.name.fl_str_mv |
Repositorio Institucional UNSA |
repository.mail.fl_str_mv |
repositorio@unsa.edu.pe |
_version_ |
1828763138623799296 |
spelling |
Pérez Vera, YasielLaureano Gutierrez, Sergio Fernando2023-03-14T15:09:41Z2023-03-14T15:09:41Z2022En los últimos años, la necesidad de análisis sobre grandes volúmenes de datos se ha vuelto cada vez más importante. Esto llega a ser sumamente útil en la toma de decisiones estratégicas sobre diferentes aplicaciones. De esta manera, se deben diseñar mecanismos apropiados para realizar el tratamiento de datos y su integración con diferentes plataformas para aprovechar las ventajas que éstas nos brindan. En el presente trabajo, se muestra una arquitectura que trabaja sobre servicios cloud para realizar una migración de datos almacenados en Big Query a un motor de analítica como Elasticsearch y aprovechar su potencial en operaciones de consulta, inserción y despliegue de visualizaciones. Esto se logra por medio del uso de Cloud Functions y Pub/Sub. La integración de estas plataformas mediante la arquitectura propuesta, mostró una efectividad del 100% al trasladar los datos de una a otra, manteniendo una tasa de inserción de 4,138.30 documentos por segundo, demostrando su robustez, eficiencia y versatilidad al realizar la migración de datos.application/pdfhttp://hdl.handle.net/20.500.12773/15629spaUniversidad Nacional de San Agustín de ArequipaPEinfo:eu-repo/semantics/openAccesshttp://creativecommons.org/licenses/by-nc-nd/4.0/Universidad Nacional de San Agustín de ArequipaRepositorio Institucional - UNSAreponame:UNSA-Institucionalinstname:Universidad Nacional de San Agustíninstacron:UNSACloud Computing ArchitecturePub/SubCloud functionCloud serviceServerlesshttps://purl.org/pe-repo/ocde/ford#2.02.04A cloud pub/sub architecture to integrate google big query with elasticsearch using cloud functionsinfo:eu-repo/semantics/bachelorThesisSUNEDU1981684https://orcid.org/0000-0001-9421-952972892559612076Huertas Niquen, Percy OscarRamirez Valdez, Oscar AlbertoPérez Vera, Yasielhttp://purl.org/pe-repo/renati/level#tituloProfesionalhttp://purl.org/pe-repo/renati/type#tesisIngeniería de SistemasUniversidad Nacional de San Agustín de Arequipa.Facultad de Ingeniería de Producción y ServiciosIngeniero de SistemasORIGINALISlagusf.pdfISlagusf.pdfapplication/pdf1345856https://repositorio.unsa.edu.pe/bitstreams/f6e78124-b899-4ec0-8983-8fdb4c2d5e38/downloadc4de76bfde9a3b85716ca1d638574665MD51LICENSElicense.txtlicense.txttext/plain; charset=utf-81327https://repositorio.unsa.edu.pe/bitstreams/97fa804a-b9c2-4620-8701-63b7d6952551/downloadc52066b9c50a8f86be96c82978636682MD5220.500.12773/15629oai:repositorio.unsa.edu.pe:20.500.12773/156292023-03-14 12:09:28.975http://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccesshttps://repositorio.unsa.edu.peRepositorio Institucional UNSArepositorio@unsa.edu.pe77u/TGljZW5jaWEgZGUgVXNvCiAKRWwgUmVwb3NpdG9yaW8gSW5zdGl0dWNpb25hbCwgZGlmdW5kZSBtZWRpYW50ZSBsb3MgdHJhYmFqb3MgZGUgaW52ZXN0aWdhY2nDs24gcHJvZHVjaWRvcyBwb3IgbG9zIG1pZW1icm9zIGRlIGxhIHVuaXZlcnNpZGFkLiBFbCBjb250ZW5pZG8gZGUgbG9zIGRvY3VtZW50b3MgZGlnaXRhbGVzIGVzIGRlIGFjY2VzbyBhYmllcnRvIHBhcmEgdG9kYSBwZXJzb25hIGludGVyZXNhZGEuCgpTZSBhY2VwdGEgbGEgZGlmdXNpw7NuIHDDumJsaWNhIGRlIGxhIG9icmEsIHN1IGNvcGlhIHkgZGlzdHJpYnVjacOzbi4gUGFyYSBlc3RvIGVzIG5lY2VzYXJpbyBxdWUgc2UgY3VtcGxhIGNvbiBsYXMgc2lndWllbnRlcyBjb25kaWNpb25lczoKCkVsIG5lY2VzYXJpbyByZWNvbm9jaW1pZW50byBkZSBsYSBhdXRvcsOtYSBkZSBsYSBvYnJhLCBpZGVudGlmaWNhbmRvIG9wb3J0dW5hIHkgY29ycmVjdGFtZW50ZSBhIGxhIHBlcnNvbmEgcXVlIHBvc2VhIGxvcyBkZXJlY2hvcyBkZSBhdXRvci4KCk5vIGVzdMOhIHBlcm1pdGlkbyBlbCB1c28gaW5kZWJpZG8gZGVsIHRyYWJham8gZGUgaW52ZXN0aWdhY2nDs24gY29uIGZpbmVzIGRlIGx1Y3JvIG8gY3VhbHF1aWVyIHRpcG8gZGUgYWN0aXZpZGFkIHF1ZSBwcm9kdXpjYSBnYW5hbmNpYXMgYSBsYXMgcGVyc29uYXMgcXVlIGxvIGRpZnVuZGVuIHNpbiBlbCBjb25zZW50aW1pZW50byBkZWwgYXV0b3IgKGF1dG9yIGxlZ2FsKS4KCkxvcyBkZXJlY2hvcyBtb3JhbGVzIGRlbCBhdXRvciBubyBzb24gYWZlY3RhZG9zIHBvciBsYSBwcmVzZW50ZSBsaWNlbmNpYSBkZSB1c28uCgpEZXJlY2hvcyBkZSBhdXRvcgoKTGEgdW5pdmVyc2lkYWQgbm8gcG9zZWUgbG9zIGRlcmVjaG9zIGRlIHByb3BpZWRhZCBpbnRlbGVjdHVhbC4gTG9zIGRlcmVjaG9zIGRlIGF1dG9yIHNlIGVuY3VlbnRyYW4gcHJvdGVnaWRvcyBwb3IgbGEgbGVnaXNsYWNpw7NuIHBlcnVhbmE6IExleSBzb2JyZSBlbCBEZXJlY2hvIGRlIEF1dG9yIHByb211bGdhZG8gZW4gMTk5NiAoRC5MLiBOwrA4MjIpLCBMZXkgcXVlIG1vZGlmaWNhIGxvcyBhcnTDrWN1bG9zIDE4OMKwIHkgMTg5wrAgZGVsIGRlY3JldG8gbGVnaXNsYXRpdm8gTsKwODIyLCBMZXkgc29icmUgZGVyZWNob3MgZGUgYXV0b3IgcHJvbXVsZ2FkbyBlbiAyMDA1IChMZXkgTsKwMjg1MTcpLCBEZWNyZXRvIExlZ2lzbGF0aXZvIHF1ZSBhcHJ1ZWJhIGxhIG1vZGlmaWNhY2nDs24gZGVsIERlY3JldG8gTGVnaXNsYXRpdm8gTsKwODIyLCBMZXkgc29icmUgZWwgRGVyZWNobyBkZSBBdXRvciBwcm9tdWxnYWRvIGVuIDIwMDggKEQuTC4gTsKwMTA3NikuCg== |
score |
13.754011 |
Nota importante:
La información contenida en este registro es de entera responsabilidad de la institución que gestiona el repositorio institucional donde esta contenido este documento o set de datos. El CONCYTEC no se hace responsable por los contenidos (publicaciones y/o datos) accesibles a través del Repositorio Nacional Digital de Ciencia, Tecnología e Innovación de Acceso Abierto (ALICIA).
La información contenida en este registro es de entera responsabilidad de la institución que gestiona el repositorio institucional donde esta contenido este documento o set de datos. El CONCYTEC no se hace responsable por los contenidos (publicaciones y/o datos) accesibles a través del Repositorio Nacional Digital de Ciencia, Tecnología e Innovación de Acceso Abierto (ALICIA).