Apa itu 'data besar'?

Dec 23 2013
Sejak munculnya Internet, kami telah menghasilkan data dalam jumlah yang mengejutkan. Siapa yang mengumpulkannya, dan haruskah kita khawatir?
Setiap kali Anda melakukan pembelian secara online, Anda menambahkan ke aliran data.

Di satu sisi, data besar persis seperti apa kedengarannya -- banyak data. Sejak munculnya Internet, kami telah menghasilkan data dalam jumlah yang mengejutkan. Diperkirakan bahwa sepanjang waktu menjelang tahun 2003, hanya 5 exabyte data yang dihasilkan -- itu sama dengan 5 miliar gigabyte. Namun dari tahun 2003 hingga 2012, jumlahnya mencapai sekitar 2,7 zettabytes (atau 2.700 exabytes, atau 2,7 triliun gigabytes) [sumber: Intel , Lund ]. Menurut peneliti Berkeley, kami sekarang memproduksi sekitar 5 triliun byte (atau sekitar 4,3 exabyte) data setiap dua hari [sumber: Romanov ].

Istilah 'big data' biasanya digunakan untuk merujuk pada kumpulan data digital yang masif, berkembang pesat, bervariasi, dan seringkali tidak terstruktur yang sulit dikelola menggunakan basis data tradisional. Ini dapat mencakup semua informasi digital yang beredar di luar sana di eter Internet, informasi kepemilikan perusahaan dengan siapa kita melakukan bisnis dan catatan resmi pemerintah, di antara banyak hal lainnya. Ada juga implikasi bahwa data sedang dianalisis untuk beberapa tujuan.

Kami telah menghasilkan banyak hal sendiri dengan melakukan pembelian online dan berpartisipasi di media sosial, tetapi itu hanyalah puncak gunung es. Data besar dapat mencakup dokumen digital, foto, video, file audio, tweet dan posting jejaring sosial lainnya, email, pesan teks, catatan telepon, permintaan mesin pencari, tag RFID dan pemindaian barcode dan catatan transaksi keuangan, meskipun itu tidak satu-satunya sumber. Anda menghasilkan data setiap kali Anda melakukan sesuatu secara online, meninggalkan jejak digital yang dapat diikuti oleh orang lain dan menambang untuk mendapatkan informasi yang berguna.

Jumlah dan jenis perangkat yang menghasilkan data juga berkembang biak. Selain komputer rumah dan sistem tempat penjualan pengecer, kami memiliki ponsel cerdas yang terhubung ke Internet, timbangan berkemampuan WiFi yang men-tweet berat badan kami, sensor kebugaran yang melacak dan terkadang berbagi data terkait kesehatan, kamera yang dapat secara otomatis memposting foto dan video secara online dan perangkat satelit pemosisian global ( GPS ) yang dapat menunjukkan lokasi kita di dunia, untuk beberapa nama. Jangan lupa sensor cuaca dan lalu lintas, kamera pengintai, sensor di mobil dan pesawat terbang, dan hal-hal lain yang tidak terkait dengan individu yang terus-menerus mengumpulkan data. Sejumlah besar perangkat elektronik yang menghasilkan dan mengunggah data telah memunculkan istilah "Internet of things".

Anda akan menemukan banyak definisi tentang big data di luar sana, jadi tidak semua orang setuju sepenuhnya tentang apa yang disertakan, tetapi dapat berupa apa saja yang mungkin ingin diketahui siapa pun yang dapat dianalisis dengan komputer. Dan kumpulan data yang besar dan berat ini memerlukan metode baru untuk mengumpulkan, menyimpan, memproses, dan menganalisisnya.

Bagaimana Big Data Dianalisis dan Digunakan

Peternakan server seperti ini di San Jose, California sedang memproses sejumlah besar data dalam upaya mengidentifikasi pola dan asosiasi.

Data besar harus dikumpulkan, dipilah, dihubungkan bersama, dan ditafsirkan agar dapat berguna bagi siapa pun. Perusahaan dan entitas lain perlu memfilter sejumlah besar data yang tersedia untuk mendapatkan apa yang paling relevan bagi mereka. Untungnya, perangkat keras dan perangkat lunak yang dapat memproses, menyimpan, dan menganalisis sejumlah besar informasi menjadi lebih murah dan lebih cepat, sehingga pekerjaan tidak lagi membutuhkan superkomputer yang besar dan mahal. Beberapa perangkat lunak menjadi lebih ramah pengguna sehingga tidak perlu tim pemrogram dan ilmuwan data untuk mempermasalahkan data (walaupun tidak ada salahnya memiliki orang berpengetahuan yang dapat memahami kebutuhan Anda).

Perusahaan memanfaatkan layanan komputasi awan sehingga mereka bahkan tidak perlu membeli komputer sendiri untuk melakukan semua pemrosesan data itu. Pusat data , juga disebut server farm , dapat mendistribusikan kumpulan data untuk diproses melalui beberapa server, dan jumlah server dapat ditingkatkan atau diturunkan dengan cepat sesuai kebutuhan. Komputasi terdistribusi skalabel ini dicapai dengan menggunakan alat inovatif seperti Apache Hadoop, MapReduce dan Massively Parallel Processing (MPP). Basis data NoSQL telah dikembangkan sebagai alternatif yang lebih mudah diskalakan untuk sistem basis data berbasis SQL tradisional.

Sebagian besar pemrosesan dan analisis data besar ini ditujukan untuk menemukan pola dan korelasi yang memberikan wawasan yang dapat dimanfaatkan atau digunakan untuk membuat keputusan. Bisnis sekarang dapat menambang sejumlah besar data untuk informasi tentang kebiasaan konsumen, popularitas produk mereka atau cara yang lebih efisien untuk melakukan bisnis. Analisis data besar dapat digunakan untuk menargetkan iklan, produk, dan layanan yang relevan pada pelanggan yang mereka yakini kemungkinan besar akan membelinya, atau untuk membuat iklan yang lebih mungkin menarik bagi masyarakat luas. Perusahaan sekarang bahkan mulai melakukan hal-hal seperti mengirim iklan dan kupon real-time kepada orang-orang melalui ponsel cerdas mereka untuk tempat-tempat yang dekat dengan lokasi di mana mereka baru-baru ini menggunakan kartu kredit mereka .

Ini bukan hanya untuk membuat kita membeli barang. Bisnis dapat menggunakan informasi tersebut untuk meningkatkan efisiensi dan praktik, seperti menemukan rute pengiriman yang paling hemat biaya atau menyimpan barang dagangan dengan lebih tepat. Instansi pemerintah dapat menganalisis pola lalu lintas, kejahatan, penggunaan utilitas, dan statistik lainnya untuk meningkatkan keputusan kebijakan dan layanan publik. Badan intelijen dapat menggunakannya untuk, yah, memata-matai, dan semoga menggagalkan rencana kriminal dan teroris. Pakaian berita dapat menggunakannya untuk menemukan tren dan mengembangkan cerita, dan, tentu saja, menulis lebih banyak artikel tentang data besar.

Intinya, data besar memungkinkan entitas untuk menggunakan data yang hampir real-time untuk menginformasikan keputusan, daripada mengandalkan sebagian besar informasi lama seperti di masa lalu. Tapi kemampuan untuk melihat apa yang terjadi dengan kita di masa sekarang, dan bahkan terkadang untuk memprediksi perilaku kita di masa depan, bisa sedikit menyeramkan.

Big Data: Kawan atau Lawan?

Transaksi ATM dan pembelian kartu kredit dan debit Anda adalah bagian dari profil data yang membantu perusahaan memprediksi kebiasaan belanja Anda.

Gagasan tentang data besar membuat banyak dari kita tidak nyaman. Kedengarannya sangat mirip dengan Orwell's Big Brother, dan dengan iklan dari perusahaan yang tampaknya tahu apa yang kami lakukan dan pengungkapan mata-mata domestik NSA baru-baru ini , dapat dimengerti bahwa beberapa orang menemukan sejumlah besar informasi di luar sana tentang kita semua mengganggu .

Orang-orang dapat mengetahui banyak tentang Anda dari data ini, termasuk usia, jenis kelamin, orientasi seksual, status perkawinan, tingkat pendapatan, status kesehatan, selera, hobi, kebiasaan, dan banyak hal lain yang mungkin atau mungkin tidak ingin Anda publikasikan. pengetahuan. Mereka hanya perlu memiliki sarana dan kemauan untuk mengumpulkan dan menganalisisnya. Dan apakah mereka bermaksud baik atau buruk, itu dapat memiliki konsekuensi yang tidak diinginkan.

Kami memberikan lebih banyak informasi daripada yang kami sadari kepada perusahaan yang berbisnis dengan kami, terutama jika kami menggunakan kartu loyalitas atau membayar dengan kartu kredit atau debit. Seseorang dapat belajar banyak tentang Anda hanya dari menganalisis pembelian Anda. Target menerima beberapa pers ketika ditemukan bahwa mereka dapat menentukan pelanggan mana yang hamil dan bahkan seberapa dekat mereka dengan tanggal jatuh tempo dari hal-hal seperti jenis suplemen dan lotion yang mereka beli. Dalam satu kasus, Target mulai mengirimkan kupon produk bayi langsung ke seorang gadis remaja, memicu kemarahan ayahnya terhadap perusahaan karena mengiriminya iklan yang dianggapnya tidak sesuai usia -- sampai dia mengetahui tentang kehamilannya [sumber: Datoo , Duhigg , Ekonom ].

Pemerintah dan pendukung privasi telah melakukan upaya untuk mengatur cara informasi pengenal pribadi (PII) orang digunakan atau diungkapkan untuk memberi individu sejumlah kendali atas apa yang menjadi pengetahuan publik. Tetapi analitik prediktif dapat melewati banyak undang-undang yang ada (yang terutama menangani jenis data tertentu seperti keuangan, medisatau catatan pendidikan) dengan membiarkan perusahaan menyimpulkan hal-hal tentang Anda secara tidak langsung, dan kemungkinan tanpa sepengetahuan Anda, menggunakan potongan informasi berbeda yang dikumpulkan dari sumber digital. Beberapa perusahaan menggunakan informasi tersebut untuk melakukan hal-hal seperti memeriksa kelayakan kredit pelanggan potensial menggunakan data selain nilai kredit biasa, yang bisa baik atau buruk untuk Anda, tergantung pada apa yang mereka temukan dan bagaimana mereka menafsirkannya. Namun, satu kekhawatiran adalah bahwa jenis informasi pribadi ini dapat menyebabkan diskriminasi pekerjaan, perumahan, atau pinjaman yang sulit dideteksi. Dan lebih buruk lagi, itu mungkin tidak selalu sepenuhnya akurat.

Ada juga kemungkinan pola yang terlihat dalam data besar disalahartikan dan mengarah pada keputusan yang buruk. Seperti alat apa pun, hasilnya semua tergantung pada seberapa baik digunakan. Meskipun matematika terlibat, analitik data besar bukanlah ilmu pasti, dan perencanaan serta pengambilan keputusan manusia harus dilakukan di suatu tempat. Dengan kumpulan data yang sangat besar, panggilan penilaian perlu dilakukan tentang apa yang penting dan apa yang dapat diabaikan. Tetapi melakukan analitik data besar dengan baik dapat memberi perusahaan keunggulan kompetitif.

Analisis semacam itu dapat digunakan untuk hal-hal yang jelas-jelas baik, seperti memerangi penipuan. Bank, penyedia kartu kredit, dan perusahaan lain yang berurusan dengan uang sekarang semakin menggunakan analitik data besar untuk menemukan pola yang tidak biasa yang mengarah ke aktivitas kriminal. Pada akun individu, mereka dapat dengan cepat diberi tahu tentang tanda bahaya seperti pembelian barang yang tidak biasa, jumlah yang biasanya tidak akan dibelanjakan pelanggan, lokasi geografis yang aneh, atau pembelian uji coba kecil yang diikuti dengan pembelian yang sangat besar. Pola di beberapa akun, seperti tagihan serupa pada kartu berbeda dari area yang sama, juga dapat memperingatkan perusahaan tentang kemungkinan perilaku penipuan.

Kumpulan data besar dapat membantu dalam penelitian ilmiah dan sosiologis, prediksi pemilu, prakiraan cuaca, dan kegiatan berharga lainnya. Postingan media sosial dan pencarian Google bahkan telah digunakan untuk mengetahui dengan cepat di mana wabah penyakit terjadi. Jadi tidak semua berita buruk. Hanya perlu beberapa saat untuk menyelesaikan semua potensi masalah dan menerapkan undang-undang yang akan melindungi kita dari potensi bahaya. Sampai saat itu, jika Anda khawatir, Anda mungkin ingin kembali ke pembelian tunai dan melihat apa yang Anda keluarkan tentang diri Anda. Tetap saja, kita mungkin terlalu jauh ke lubang kelinci untuk salah satu dari kita untuk sepenuhnya keluar dari radar.

Banyak Informasi Lebih Lanjut

Catatan Penulis: Apa itu 'big data'?

Seperti apa pun, data besar dapat digunakan untuk kebaikan, keburukan, dan untuk banyak hal di antaranya. Memiliki iklan dan kupon yang ditargetkan kepada kami dapat menjadi kenyamanan atau gangguan besar. Dan itu lebih dari sedikit menakutkan jumlah orang asing dapat belajar tentang kita hanya karena kita menggesek plastik di toko mereka atau menggunakan kartu mereka.

Kartu loyalitas yang selalu saya pikirkan adalah cara untuk mengumpulkan data tentang pembelian kami, tetapi saya tidak benar-benar menghargai berapa banyak data serupa yang diikatkan kepada kami secara individu melalui pembelian debit/kredit sampai sekarang, atau detail luar biasa tentang kehidupan kami yang bisa dibedakan darinya. Dan ini bahkan belum termasuk semua informasi lain tentang kami di Internet.

Memikirkan setiap gerakan saya dianalisis membuat saya ingin keluar dari grid, berhenti memposting online dan menggunakan uang tunai untuk semuanya. Meskipun sebagian besar dari kita, termasuk saya, mungkin akan melanjutkan apa adanya untuk tujuan kenyamanan. Saya mungkin memposting dan membeli seolah-olah saya sedang diawasi.

Artikel Terkait

  • Bagaimana Pusat Data Bekerja
  • Bagaimana Integrasi Data Bekerja
  • Cara Kerja Cookies Internet
  • Bagaimana saya bisa mengetahui informasi apa yang ada tentang saya secara online?

Sumber

  • Apache. "Hadoop." (30 November 2013) http://hadoop.apache.org/
  • Arthur, Lisa. "Apa Itu BigData?" Forbes. 15 Agustus 2013. (1 Desember 2013) http://www.forbes.com/sites/lisaarthur/2013/08/15/what-is-big-data/
  • Brooks, David. "Data Apa yang Tidak Bisa Dilakukan." Waktu New York. 18 Februari 2013. (4 Desember 2013) http://www.nytimes.com/2013/02/19/opinion/brooks-what-data-cant-do.html?_r=1&
  • Brooks, David. "Apa yang Akan Anda Lakukan Selanjutnya." Waktu New York. 15 April 2013. (4 Desember 2013) http://www.nytimes.com/2013/04/16/opinion/brooks-what-youll-do-next.html
  • Brut, Andrew. "MapReduce dan MPP: Dua sisi mata uang Big Data?" ZDNet. 2 Maret 2012. (5 Desember 2013) http://www.zdnet.com/blog/big-data/mapreduce-and-mpp-two-sides-of-the-big-data-coin/121
  • Pelayan, Brandon. "Pelajaran Dari Angka Guru Nate Silver Tentang Bekerja Dengan Big Data." Dunia Jaringan. 11 September 2013. (4 Desember 2013) http://www.networkworld.com/news/2013/091113-nate-silver-big-data-273740.html
  • Kok, Ryan. "Nate Silver Skeptis terhadap Tren Big Data, Kunci dalam Budaya." Sudut silikon. 12 September 2013. (4 Desember 2013) http://siliconangle.com/blog/2013/09/12/nate-silver-skeptical-of-big-data-trends-keys-in-on-culture /
  • Crawford, Kate dan Jason Schultz. "Big Data and Due Process: Menuju Kerangka Kerja untuk Mengatasi Kerusakan Privasi Prediktif." Fakultas Hukum Universitas New York. 1 Oktober 2013. (4 Desember 2013) http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2325784
  • Datoo, Siraj. "Perkembangan yang Cepat dalam Analisis Big Data Telah Menyebabkan Peningkatan Investasi." Wali. 22 November 2013. (29 November 2013) http://www.theguardian.com/news/2013/nov/22/rapid-development-in-big-data-analytics-has-led-to-increased -investasi
  • Duhigg, Charles. "Bagaimana Perusahaan Mempelajari Rahasia Anda." Waktu New York. 16 Februari 2012. (2 Desember 2013) http://www.nytimes.com/2012/02/19/magazine/shopping-habits.html?pagewanted=6&_r=3&hp&pagewanted=all&
  • Ekonom. "Big Data - Menghancurkan Angka." 19 Mei 2012. (1 Desember 2013) http://www.economist.com/node/21554743
  • EMC. "EMC: Dibalik Tirai Big Data." 2012. (1 Desember 2013) http://www.emc.com/campaign/global/big-data/hfbd-infographic-4web-1500.jpg?cmp=micro-big_data-general-emc
  • Fitzgerald, Michael. "Big Data: Ancaman Besar Atau Kebohongan Besar?" Minggu Informasi. 21 November 2013. (4 Desember 2013) http://www.informationweek.com/big-data-big-threat-or-big-lie/d/d-id/1112668?
  • Gartner. "Data besar." (29 November 2013) http://www.gartner.com/it-glossary/big-data/
  • Gan, Scott. "Menempatkan Big Data dalam Konteks." kabel. 10 September 2013. (4 Desember 2013) http://www.wired.com/insights/2013/09/putting-big-data-in-context/
  • Henschen, Doug. "Big Data Membentuk Kembali Prediksi Saluran Cuaca." Minggu Informasi. 25 November 2013. (4 Desember 2013) http://www.informationweek.com/big-data/software-platforms/big-data-reshapes-weather-channel-predictions/d/d-id/1112776 ?
  • IBM. "Apa itu data besar?" (4 Desember 2013) http://www-01.ibm.com/software/data/bigdata/what-is-big-data.html
  • Intel. "Big Data 101: Bagaimana Big Data Membuat Dampak Besar." (29 November 2013) http://www.intel.com/content/www/us/en/big-data/big-data-101-animation.html
  • Intel. "Melawan Penipuan Kartu Kredit dengan Big Data." (30 November 2013) http://www.intel.com/content/dam/www/public/us/en/documents/white-papers/combat-credit-card-fraud-with-big-data-whitepaper .pdf
  • Intel. "Apa itu BigData?" (30 November 2013) http://www.intel.com/content/www/us/en/big-data/big-data-what-is-big-data-landing.html
  • Laney, Doug. "Deja VVVu: Orang Lain Mengklaim Konstruksi Gartner untuk Big Data." Gartner. 14 Januari 2012. (1 Desember 2013) http://blogs.gartner.com/doug-laney/deja-vvvue-others-claiming-gartners-volume-velocity-variety-construct-for-big-data /
  • Lund, Susan, James Manyika, Scott Nyquist, Lenny Mendonca, dan Sreenivas Ramaswamy. "Pengubah Game: Lima Peluang untuk Pertumbuhan dan Pembaruan AS." Institut Global McKinsey. Juli 2013. (3 Desember 2013) http://www.mckinsey.com/insights/americas/us_game_changers
  • MongoDB. "Data Besar Dijelaskan." (5 Desember 2013) http://www.mongodb.com/learn/big-data
  • Naughton, John. "Mengapa Big Data Membuat Privasi Anda Menjadi Masa Lalu." Wali. 5 Oktober 2013. (29 November 2013) http://www.theguardian.com/technology/2013/oct/06/big-data-predictive-analytics-privacy
  • Novet, Yordania. "Inilah Mengapa 2014 Akan Menjadi Tahun 'Internet of Things'". Venturebeat. 25 November 2013. (1 Desember 2013) http://venturebeat.com/2013/11/25/heres-why-2014-will-be-the-year-of-the-internet-of-things /
  • Romanov, Alex. "Menempatkan Nilai Dolar pada Wawasan Data Besar." kabel. 17 Juli 2013. (4 Desember 2013) http://www.wired.com/insights/2013/07/putting-a-dollar-value-on-big-data-insights/
  • SAS. "Apa itu BigData?" (1 Desember 2013) http://www.sas.com/big-data/
  • Khusus, Svetlana. "Definisi Big Data Gartner Terdiri dari Tiga Bagian, Jangan Dibingungkan dengan Tiga 'V." Forbes. 27 Maret 2013. (1 Desember 2013) http://www.forbes.com/sites/gartnergroup/2013/03/27/gartners-big-data-definition-consists-of-three-parts-not- menjadi-bingung-dengan-tiga-vs/
  • Setetes. "Apa itu Big Data dan Hadoop?" (29 November 2013) http://www.zettaset.com/info-center/what-is-big-data-and-hadoop.php