Showing posts with label db2. Show all posts
Showing posts with label db2. Show all posts

2 Feb 2014

Real Time Scoring – Gerçek Zamanlı Skorlama Teknolojileri.





Veri üretiminin ve kullanılamadan tüketilen verinin hiç bu kadar büyük hacimlerde olduğu bir dönemden geçmemiştik. Kurumlar satış rakamlarını yukarı çekmek, müşteri memnuniyetlerinde zirve yapmak için tek bir müşteri şikayetini dahi kaçırmamak adına yeni teknolojiler arıyorlar, teknoloji üretenler de, bu ihtiyaçları karşılamak için, AR&GE’lerden gelen bilimsel çalışmaları, ürün haline getirmek için uğraşıyorlar.

Öyle bir noktadayız ki, eskiden doğru bilgiyi bulamamak bir problemdi, şimdi bilgiye ulaşmak için veri okyanusunda boğulmamak daha büyük yetenek gerektiriyor.

Bu bağlamda, OLTP sistemlerimizde oluşturduğumuz verileri anlamlı hale getirmek için  Veri Ambarları oluşturduk, bu ambarları, ETL süreçleri ile doldurduk. Başlarda bu doldurma süreleri makul sürelerdeydi. İş birimleri de bizi o kadar sıkıştırmıyorlardı. Raporların ertesi günü alınması sorun olmuyordu. Zamanla bu ambarlardan anlık, analitik sorgu yapmak ve bu sorgularla karar süreçlerimizi beslemek için “Canlı” Karar Destek Sistemleri kurduk. İş birimleri bu sistemlerden hazır raporları değil, istedikleri dinamik raporları çeker hale geldiler ve öyle de bağımlı hale geldiler ki, kimse artık istediği rapor için saatler geçmesine veya ertesi sabahı beklemeye dayanamıyor.

İş birimlerinin aradığı her cevabın arkasında veri var ve doğru veriyi toplayan, hızlı raporlayan ve analiz edebilenin (bu üçünü aynı anda yapabilenin) avantaj sağladığı günlerdeyiz. Öyle ki, yukarıda ki analiz sistemleri mevcut veri üzerinden özet ve rafine bilgi üreterek karar vericileri desteklerken, bu olgunun bir adım ötesi olan “Predictive” yani ileriyi gören analiz sistemlerinin de (Predictive Analytics - PA) konuşulduğunu ve uygulandığıni görüyoruz. PA, karar destek süreçlerine, verinin istatistiksel olarak analiz edilmesi ve bilginin tahminde bulunularak dahil edilmesi olarak da adlandırlılabilir. PA, İş analizi süreçlerine tarihi verinin incelenerek bir tahmin çıkarılması üzerinden dahil olmak olarak da görülebilir. Bu tahminler, bir model kullanılarak, geçmiş verilerden üretilen skor ile servis edilir.

Skorlama katmanı; verinin içindeki bu gizli değeri süzerek, belirlenen kategoriler ile müşteriyi, hizmeti, servisi belli bir segmente yerleştirmek olarak da düşünülüyor. Müşteri özelinden bakarsak, o müşterinin sadakati, ürün çeşitliliği, geçmiş hareketleri, portföy, vb.  çeşitleyebileceğimiz bir çok değer bir araya gelerek bu skor oluşuyor. Online veya Offline olarak üretilebilen bu skor genellikle müşterinin anlık hareketine göre üretilmiyor. Skorlama sürecinde, periyodik olarak, OLTP’den ve ambardan alınan veriler işlenip skor oluşuyor; kurum buradan bu bilgiyi sorgulayarak tüketiyor, kullanıyor ve işini görüyor.

Bu süreçteki sorun şu;

Eğer skor bilgisini üretecek veriyi sağlayan sistem, skoru üreten sistem ve skoru kullanacak sistemler birbirinden ayrık ve dağıtık olarak çalışıyorsa, işletimden, karar sürecine kadar olan süreçlerde ki cevap süreleri, SLA’lerin üzerine çıkabiliyor, veriye ulaşımda gecikmeler olabiliyor. Daha da kötüsü, doğru zamanda doğru kararı vermeye yardımcı olacak skor bilgisinin zamanında alınamamasına neden oluyor.

Model Skorlamanın üretimi ve bu skorun OLTP sistem içinden erişimi için çok temel iki  yaklaşım var:

A-    Offline - Batch Skorlama: klasik ve en yaygın yaklaşım bu. ETL süreçi ile taşınan veri üzerinden, yine Batch işlemle geçilerek türetilen skor, tüketime hazır hale geliyor ama güncelliği ancak bir sonraki üretim döngüsünden sonra olabiliyor. OLTP Transaction içinden erişimi yok.
B-    Online – OLTP ve dış skorlama fonksiyonu: Bu metod birincisine göre daha modern. Webservis ile transaction içinden çağrılan skorlama modeli, işini görüp geri geliyor. Yalnız bu metodun işletimi sırasında, OLTP ile senkron çalışması gereken Webservisi, OLTP’nin SLA’ler içinde tamamlanmasını engellediği gibi, güvenlik, ağ gecikmesi gibi sorunlar da barındırıyor.

Yukarıdaki durumların bütün bileşkesi ve acil iş ihtiyaçlarının dayatmaları, B metodunun da “gerçek zamanlı ve In-DB olarak” yapılması ihtiyacını doğurdu. Böyle bir teknoloji bizlere, skorlama ihtiyacını, OLTP ortamında çalışan transaction henüz sonlanmadan ve dış skorlama katmanına gitmeden, veritabanının içinde çalışan skorlama metodu ile sağlayacak, veri güvenliği ve ağ gecikmelerinden soyutlayacaktır. Bu teknoloji ancak ve ancak kullanılan programlama dilinin ve SQL’ün olanakları ile çağrılabilen ve Veri Tabanının içinde çalışabilen imkanlar serisi ile sağlanacaktır.

Bu çok detay gibi gözüken ama büyük finans kurumlarının dört gözle beklediği bir olanak olarak gözüküyor. Özellikle rekabetin zirve yaptığı bu dönemde yazılım üreticilere çok iş düşüyor.

26 Nov 2013

Nedir bu NoSQL?



Günümüzde yazılımla uğraşıp, SQL (Structured Query Language) bilmeyen ve duymayan kalmamıştır herhalde. Nasıl yabancı dil eğitimi İlkokullara kadar indiyse, SQL’in temellerinin de İlköğretim Eğitim Programı içine alıp, gençleri erken yaşta veritabanı ve onun küresel dili olan SQL ile tanıştırmanın zamanı geldi de geçiyor. Buradan Milli Eğitim Bakanlığı’na bir mesaj vermiş de olayım.
Ama bu yazının temel konusu SQL değil, NoSQL!

SQL kullanan veritabanlarının geleneksel nimetlerini anlatmayacağım. 1970’lerde IBM için çalışan iki bilim insanı, Donald D. Chamberlin ve Raymond F. Boyce tarafından tasarlanan bu veri işleme dili, bütün ilişkisel veri tabanları için neredeyse standart hale geldi ve günümüze kadar ulaştı.
Öncelikle şu fark ile başlayalım.

SQL; ilişkisel veri tabanlarında, saklanan verileri yönetmek için kullandığımız, veritbanı bağımsız bir dil.
NoSQL ise yeni bir veritabanı sistemi veya modeli olarak adlandırılabilir.
Geleneksel veri tabanı üreticileri (IBM, Oracle, Microsoft vb.) geliştirdikleri veritabanlarıyla (DB2, Oracle, SQLServer) geleneksel veri tiplerini saklamak, yönetmek üzerine tasarlanmış, verinin doğruluğunu, herzaman tutarlı ve kararlı olarak saklanabilmesini, ulaşılabilir olmasını temel kriterleri olarak önceliklendirmişler ve bunlara göre çok sağlam motorlar geliştirmişlerdir. Bu veritabanları yıllar boyunca öncelikle “mission-critical” veri saklanmasını gerektiren bütün alanlarda görevlerini yapmaya devam etmektedirler.
NoSQL olarak adlandırılan model, yukarıdaki geleneksel modelin dışında, veri saklama, veriye ulaşma ve tutarlılığının ikinci planda kaldığı ihtiyaçların daha öne çıkması ile gözüktü. Bıg Data ihtiyaçları, Web ve Mobile uygulamaların ciddi derecede artması NoSQL olgusunu çok geliştirdi. Bu modelde saklanan veriler “yapısal olmayan” verilerden oluşuyor ve “mission-critical” ihtiyaçlar genel olarak yok. Böyle beklentilerin olmadığı NoSQL veritabanları bu anlamda yatay ölçeklemeye daha yatkın olarak düşünülebilir. Daha çok iş yükünü çalıştırmak için daha güçlü sunucular kullanarak dikey büyüme yöntemi yerine, daha ucuz sunucular ile yatay büyümenin tercih edildiği, “High Availability” çözümlerinin veritabanı olanaklarından çok, yazılım geliştirme teknolojileri ile sağlandığı yeni bir dünya burası. Bu dünyada merkezi veritabanından çok, dağıtık veritabanı özendirilir. Geleneksel veritabanlarının olmazsa olmazı ACID (Atomicy, Consistency, Isolation, Durability) kuralları NoSQL dünyasında sağlanmayabilir.
NoSQL veritabanlarında, SQL dili kullanılmıyor anlamı çıkmasın. Bazı yazarlar bunu “Not Only SQL” olarak da tanımlıyorlar yani bir nevi SQL’de kullanabildiğiniz ilişkisel model olmayan veritabanı gibi.

NoSQL veritabanları veriyi saklama metodlarından dolayı “çok büyük” veriyi, ilişkisel olarak saklama ihtiyacının olmadığı, bu veriyi daha hızlı getirmek ön koşulu  üzerine tasarlanmışlardır. Yani geleneksel veritabanlarındaki gibi birbiri ile ilişkili tablolar arasındaki verileri bulup, filtreleyip, işleyip getirmek gibi ihtiyaçlara burada cevap bulmak zordur. İlişkisel Model, veriyi alır birbiri ile ilişkili tablolarda kolon/satır şeklinde saklar. Örneğin “Document Store” modelini kullanan bir NoSQL veritabanı, JSON formatında gelen verilerin her bir kümesini ayrı bir veritabanı nesnesi gibi saklar.

Istatistik Hesaplar, Gerçek-Zamanlı Analizler, sürekli, hızlı ve kontrolsüz büyüyen verilerin saklanması (Twitter) gibi alanlar en yoğun kullanım şekilleridir. Özellikle Twitter gibi uygulamalar, “extreme scale” diyebileceğimiz şekilde büyük ve ucuz ölçekleme ihtiyacı göstermektedir. NoSQL bu alanı adreslemektedir.

Günümüz uygulama geliştirme süreçleri çok hızlı beklentiler içinde olduğundan (rapid application development) ve DBA gereksinimini en aza indirmek içinde NoSQL veritabanları ilgi görmektedir.

Klasik veritabanı API’lerinin veri erişimindeki göreceli olarak “overhead”leri daha fazla olduğundan ve NoSQL API’leri bu anlamda uygulama geliştiriciler tarafından daha revaçta olmaktadır.
Şu günlerde 122’den fazla kendini NoSQL sınıfına koyan veritabanı bulunmaktadır. Daha derin teknik detayları bir başka yazı konusuna bırakarak, kendini NoSQL veritabanı olarak tarifleyenlerin 4 ana grubundan bahsedeyim. 122 ününün yaklaşık %65’i bu 4 modelden birini benimsiyor.
Key Value Stores: Key değerleri, hash olarak tutuluyor. Key kısmındaki veri kısmı ise binary olarak saklanıyor. MemcacheD, REDIS, WebSphere eXtreme Scale bu modele uyan örnekler.
Document Stores: Saklanan veriler/dökümanlar tagged elementler gibi tutuluyor. MongoDB, couchDB bu modeli kullanan NoSQL veritabanları
Column Family: Her Storage bloğunda sadece bir kolon veya kolon kümesine ait veriler saklanıyor. Hbase, Cassandra güzel iki örnek
Graph Store: Key değerleri “graph yapısı” denen bir modelleme ile ilişkilendirilip saklanıyor. Jena, Sesame iki örnek. 

Öyleki, en yukarıda örneklerini verdiğim klasik veritabanları da, mevcut motorlarına yukarıdaki dört modelden birisini seçerek, ek “NoSQL” özellikleri ekliyor.

Örneğin Oracle, Key Value Stores, kullanarak, NoSQL desteği verirken, IBM - DB2 ise  Graph Store modelini kullanarak yollarına devam edeceklerini açıkladılar. Bunun anlamı, JSON dökümanlarına, SQL ile erişilebilecek olması çok yakında. Bu olanak geldiğinde yılların SQL bilgisine sahiplik yok olup gitmeyecek ve aynı becerileri kullanarak NoSQL veritabanlarını kullanabileceğiz.

Şimdilik görünen bunlar ama bu alanda o kadar hızlı gelişmeler oluyor ki siz bu satırları okurken bile bazı şeyler değişmiş olacak.

3 May 2013

“Veri Ambarı ve BIG Data elele verirse?!?”




Herkesin dilinde, her etkinlikte BIG Data var. Bu sunuların ilk beş-on dakikası, 3V’yi anlatmakla, dünyadaki verinin saatte kaç kilometre hızla büyüdüğü, yere göğe sığmadığı ve sığmayacağını aktarmakla başlıyor. Bir kavramı anlamak ve anlatmak çok önemli. Kavram anlaşıldığında ve gerçekleştirildiğinde, o kavramın üstünden üretilen teknolojiler, ürünler ve hizmetler doğru şekilde değerlendirilebiliyor.

Bence, BIG Data kavramını ve algısını bir çok üretici farklı açıdan anlatsa da, bu kavram üzerinde bir asgari müşterek oluştu artık. BIG Data’dan “verim” sağlayacak “tüketici”, yani bu ürün ve hizmetleri alacak müşteriler, kurum içinde uygulama yapacakları bir alan arıyorlar. Kurumlar dönüp kendi veri işleme envanterlerine baktıklarında, geçtiğimiz yıllar boyunca Operasyonel/Transactional Sistemlerini kurduklarını, bunun üstüne de Veri Ambarları inşa ettiklerini görüyorlar. OLTP’den, Veri Ambarı’nı besleyerek raporlar çekiyorlar, karar süreçlerini daha doğru verilerle besleyip, daha hızlı karar karar almaya çalışıyorlar. Bu yapılanların üzerine acaba BIG data bana daha fazla ne katabilir diye herkes arayış içinde!

Büyük Veri teknolojisinin kullanılabileceği alanlara bakıldığında beş temel “Use-Case” görüyoruz.

Büyük Veri Arama: Karar verme sürecini daha etkin kılmak için tüm büyük veri kaynaklarını aramak, taramak, görselleştirmek. Buradaki en önemli girdi Sosyal Medya.

360o Müşteri Görüntüsü: İç ve Dış bütün veri kaynaklarıyla müşteri analizi. Sosyal Medya, OLTP ve Veri Ambarını tekmişcesine inceleyebilme beceris.

Güvenlik ve Istihbarat Yetkinlikleri: Düşük risk, gerçek zamanlı dolandırıcılık, izleme ve siber güvenlik algısı. Güvenlikle ilgisi olan herkesin en ilgili olduğu alan.

Operasyon Analizi: Sensor ve Log Analizi yaparak sonuç geliştirme. Özellikle makine, sensor vb. elektronik herşeyin ürettiği sinyalleri anlık işleme ve karar destek süreçlerini besleyebilme yetkinliği.

Veri Ambarı Eklentisi: Operasyonel Verimliliği arttırmak için Büyük Veri ve Veri Ambarı özelliklerini entegre etmek.

Günümüzde, Veri Ambarı olmayan bir kurum artık kalmadığına göre beşinci seçenek, bence bir kurumun BIG Data çözümleriyle tanışıp, uygulaması için en hızlı seçenek olabilir.

Big Data ve Veri Ambarı Eklentisi

Mevcut veri ambarlarımız çoğunlukla, çok büyük miktarlarda yapısal verilerin, yüksek maaliyetli donanımlar üzerinde biriktirildiği ve sürekli gittikçe büyüdüğü, karmaşık sorguların çalıştığı yapıdadır. Kullanıcı sayıları ve kullanıcı taleplerindeki çeşitlilik ve sayının artış eğilimi, ambara giren verilerin de sayısısının artması ile veri ambarlarının motorları klasik veri tabanlarından, appliance dediğimiz çözümlere doğru evrilmekte. Bu evrilme sırasında BIG Data bize başka olanaklar sunuyor.

- Yapısal olan ve olmayan verilerle, akan verilerin büyük resmin içinde olup hep birlikte değerlendirilebilmesi, analitik sürece dahil edilebilmesi.

- Daha sorgulanabilir, göreceli olarak daha düşük maaliyetli bir ortam sağlanması.

- Soğuk Verilerin taşınabileceği, veri saklama, lisans ve bakım maaliyetlerinin aşağı çekilebileceği

- Şimdiye kadar “akan veri analizi”nin mevcut veri ambarlarında hiç yapılmamış olmasından dolayı, bu tip veri kaynaklarının “işlenerek” veri ambarına yazılamasıyla, saklama maaliyetlerinden tasarruf edilmesi.

Bunlar bir çırpıda, göze çarpan hızlı kazançlar.

BIG data teknolojileri ve Veri Ambarlarını eklemlemenin yukarıdaki kazanım ve ihtiyaçlar göz önüne alındığında üç yaklaşımla yapıldığını görüyoruz.

- Ön İşleme

Kurum mimarisinde, BIG Data veri kaynaklarının ön tarafına eklenecek, “staging” görevini üstlenen bir Kurumsal Hadoop Sunucusu, Veri Ambarına hangi verilerin girip girmeyeceğini ve filtrelemesini yapabilir. Bu yaklaşımla, BIG Data kaynaklarındaki veriler, temizlenerek, filtrelenerek ve anlamlı hale gelerek, Veri ambarına yerleştirilir. Bu şekilde hem yeni veri kaynaklarından mevcut ambara, daha önce veri ambarında hiç olmamış verilerin akışı sağlanmış olur, hem de bu ön filtreleme ve analiz ile veri ambarının daha değerli olan saklama ve hesaplama maaliyeti, gereksiz veriler yüklenmediği için, korunmuş olur.

- Sorgulanabilir Arşiv

Bu yaklaşımda, mevcut veri ambarında daha az erişilen soğuk veriler, daha ucuz maaliyetli olan bir Kurumsal Hadoop Sunucusu’na veri aktarım araçları ile taşınabilir. Federation teknolojilerinin yardımı ile son kullanıcılar her iki kaynaktan, tek kaynakmışcasına sorgulama yapmaya devam edebilirler.

- Keşifsel Analiz

Bu yaklaşımda ise, BIG Data kaynakları, akan veri analizi tekniği ile (Stream Computing) incelenip, analiz edilirken, yapılan bu analizlerin sonuçları hem anlık olarak değerlendirilebilir hem de mevcut veri ambarına beslenerek oradaki yapısal sorgulama ortamının bu keşifsel analiz sounçlarından faydalanması sağlanabilir. BU yaklaşımın bir diğer avantajı, BIG Data’yı tekil (unique) yapan teknolojilerin başında gelen “Stream Computing”in mevcut veri ambarı bileşeninin çalışmasını ve çıktılarını etkilemeden, mevcut yapıya en az müdehale ile entegre edilmesini sağlamasıdır.

Bu üç seçenekten birisi ile kurumdaki veri ambarının yanına bir BIG Data çözümü eklemleyerek, bu teknolojiyle tanışıp, kullanmaya başlamak artık an meselesi.

22 Jan 2013

Nedir bu Hadoop ?




Herkesin dilinde bir “Hadoop” var ama nedir bu Hadoop ?
Apache-Hadoop güvenilir, ölçeklenebilir bir dağıtık hesaplama (distributed computing) ortamı yaratabilmek amacıyla ortaya çıkmış, açık kaynak kodlu bir yazılım geliştirme projesinden başka bir şey değil.

Bu projeye katkı verenler arasında Yahoo, Microsoft, Cloudera, facebook, linkedin, twitter, IBM gibi büyük yazılım şirketleri de bulunuyor.
Hadoop, basit programlama modeli kullanarak, kümelenmiş (cluster) bilgisayarlar arasında, büyük hacimli verilerin dağıtık olarak işlenmesini sağlayan bir yazılım kütüphanesi olarak ortaya çıktı. Tasarımı gereği, tekil bir sunucuda da, her birinin kendi CPU ve hafıza birimi bulunan binlerce sunucuyu barındıran bir küme (cluster) üzerinde de çalışabilir, büyüyebilir. Hadoop’un tasarımındaki önemli bir fark, bu yazılım geliştirme teknolojisinin, “High-Availability (HA)” ihtiyaçları için arka planda kullanılabilecek pahalı donanım çözümlerine ihtiyaç duyması yerine, kesintiyi uygulama seviyesinde farkedip, çözümleme üstüne tasarlanmasıdır. Hadoop, arka plandaki kümelenmiş bilgisayarların üstüne kurguladığı uygulama seviyesindeki HA çözümüyle farklı, ucuz bir alternatif olmayı hedefliyor.

Hadoop Projesi 4 modülden oluşuyor.
• Hadoop Common: Bütün Hadoop modüllerini destekleyen ortak modüller.

• Hadoop Hadoop Distributed File System (HDFS™): Büyük miktardaki veriye yüksek iş/zaman oranı (throughput) ile erişim sağlayan Dağıtık Dosya Yönetim Sistemidir. Birçok makinedeki dosya sistemlerini birbiriyle bağlayarak tek bir dosya sistemi gibi gözükmesini sağlar. HDFS, düğüm noktalarının (node’ların) her zaman %100 çalışamayacağını, kesintiler olabileceğini baştan kabul eder. Bu yüzden veri güvenliğini, verinin birden fazla düğüm noktasına kopyalayarak sağlar.

• Hadoop YARN: İş zamanlayıcı (job scheduler) ve kaynak yönetimini yapan bir dizi kütüphane.

• Hadoop MapReduce: YARN temelli, büyük miktarda veriyi parallel olarak işlemeye yarayan bir sistem. Gelen iş yükünü tanıyarak, arka plandaki bilgisayar düğüm noktalarına bu iş yükünü tahsis eden imkanlar sunar.

Hadoop kullanmaya başladığınızda, kesinlikle karşılaşacağınız Hadoop temelli bazı projeler de var. Bunlardan en popüler olan bazıları şöyle:
• Cassandra: Ölçeklenebilir, çok-nodlu, kümelenmiş veritabanı.

• Chukwa: Dağıtık ve Büyük Sistemleri yönetmek için veri toplama sistemi.

• Hive: Veri Özetleme ve “ad hoc” sorgu yazma ortamı sağlayan bir veri ambarı mimarisi.

• Pig: Parallel İşlem Tasarımı yapmak için hazırlanmış, veri akışlarını ve çalıştırma planlaması yapılabilecek bir dil.

Hadoop projesi ne getiriyor?
Hadoop, özellikle büyük hacimli verinin işlenmesinde, ekonomik değerleri ve dinamikleri kökten değiştirebilir. Çeşitli ihtiyaçlar için sistem mimarisi tasarlarken, ölçeklenebilirlik, süreklilik, hatadan kurtarma, paralel işlem yetenekleri, fiyat/performans, esnek tasarım gibi parametreler kullanıyoruz. Hadoop aşağıdaki 4 temel özelliği ile bu parametrelerin hepsinin aynı anda gerçekleşmesini sağlayabilir.

• Ölçeklenebilir: İhtiyaç duyulduğunda, verinin kendisini,  formatını, yerini değiştirmeden, çalışan işlerin ve uygulamaların nasıl yazıldığını dikkate almadan yeni düğüm noktası eklenebilir.

• Hesaplı Çözüm: Yüksek hacimli verinin, fazla CPU gücü ile işlenmesini gerektiren parallel çözüm ihtiyaçlarını, daha ucuz veya hesaplı bilgisayar altyapısı ile gerçekleşitirlmesini sağlar. Sonuç olarak her TB Saklama alanı için maaliyetler düştüğünden, kurumun bütün verisini fiyat endişesini daha ikinci plana iterek modellemesini sağlar.

• Esneklik: Hadoop’un şemasız, yapısal olan veya olmayan bütün veri tiplerini, her kaynaktan işleyebilen bir mimarisi var. Farklı kaynaklardan gelen, farklı veri tipleri birbirleriyle birleştirilip, özetlenebilir ve işlenebilir.

• Hatadan Kurtarma: Düğüm noktalarından biri ulaşılamaz olduğunda, sistem, gelen yükü diğer düğüm noktalarına paylaştırarak kesintisiz hizmete devam eder.

Hadoop size uygun mu?
Dünyadaki verilerin %80’i yapısal değil. Öyle ki, birçok kurum bu veriyi kendi avantajına dönüştürecek şekilde kullanma becerisi ve yatırım esnekliğinden de uzak. Bir an için hayal edin: Kurumun ürettiği veya kendisine dışardan gelen, istisnasız olarak her verinin gerektiğinde saklanabildiği, işlenebildiği, kurumun var olan diğer karar destek sistemleri ile entegre olabilen, ölçeklenebilir, hesaplı, esnek bir mimari kurguluyorsanız, Hadoop temelli çözümleri düşünmenin zamanı gelmiş demektir.

Hadoop’un çalışması “Yığın İşlem – Batch Processing” üzerine kurulu. Veri Ambarları ile bir Hadoop sistemi arasındaki en temel farklardan biri performans olacaktır. Dikkat edilirse, yukarıdaki değerlendirme parametreleri içinde perfromans bulunmuyor. Çünkü, Veri Ambarı sistemlerini karakterize eden erişim ve cevap süresi paternlerine baktığımızda, Hadoop temelli sistemlerde aynı beklenti içinde olmamız şimdilik doğru olmaz. Hadoop “Batch Processing” yapan bir çerçeve mimari sağlamaktadır ve cevap süresi olarak şimdilik veri ambarları ile aynı beklentide olmamak daha doğru olacaktır.
Örneğin; Bir Hadoop Sistemi, mevcut Veri Ambarı sisteminin arşivleme altyapısı için kullanılabilir. Müşteri Profillerini saklayan ve değerlendiren, iyi cevap süresi vermek üzere kurgulanmış ve yatırımı yapılmış bir veri ambarı sistemi, son iki yıllık bilgiyi saklarken, daha eski veriler bir Hadoop sistemine aktarılarak 20 yıllık bilgiler de burada saklanabilir ve gerektiğinde erişilebilir. Burada dikkat edilmesi gerekenlerden birisi de, SQL tabanlı olan Veri Ambarı sistemine erişen uygulamaların, aynı arayüzlerle Hadoop sistemine erişebilmeleridir; SQL ve NoSQL dünyasının bir arada çalışabilme gerekliliği vardır. Her iki mimari farklı hizmetler ve beklentiler için tasarlanmıştır, birbirinin yerini almak için değil, birbirini tamamlamak için kullanılmalıdır.

Hadoop’u kendiniz indirip kurup, kullanmaya başlayacağınız gibi, Hadoop Projesini destekleyen Microsoft, IBM gibi büyük oyuncuların kurumsal çözümleri ile de kullanmaya başlayabilirsiniz.
Hadoop, mevcut sistemlerinizin bir alternatifi değildir. Geleneksel veritabanı motorları ve yeni veri işleme motorları (Hadoop vb.) bir kurumun sol ve sağ kolları gibidir. Kuruma uyarlanacak BIG Data çözümünün, mevcut sistemle entegre olması, ayrık şekilde çalışmıyor olması en önemli önşartlardan birisi olmalıdır.

Yakında her eve bir “fil” girecek diyor Hadoop’u geliştirenler.
Hep beraber göreceğiz ve gerçek olup olmadığı da çok uzakta bir tarih değil!...

BT Haber

16 Oct 2012

6 Sept 2012

TDUG Yıllık Toplantı Programı - 2012




25 Eylül 2012
IBM Türk Binası
Büyükdere Cad. Levent, Istanbul

09:00-09:30                   Kayıt ve Tanışma

09:30-09:45                   Açılış.

Cüneyt Göksu, VBT, IBM Gold Consultant, TDUG Lideri
Arzu Gelgeç, IBM Türkiye, TDUG-IBM Liason
Surekha Parekh, IBM UK, WW Strategist & Market Program Director

09:45-10:45                    
Christopher J. Crone, IBM Distinguished Engineer, DB2 for z/OS Development
DB2 and System z Synergy

10:45-11:45                    
Cüneyt Göksu, VBT,
Practical Recipes for Daily DBA Activities using DB2 9 and 10 for z/OS

12:00-13:00                   Öğle Yemeği arası

13:15-14:15                    
Hüseyin YILMAZ, IBM Türkiye, Senior IT Specialist, Information Management
What's New for DB2 10 for Linux, Unix, Windows

14:15-15:15                    
Christopher J. Crone, IBM Distinguished Engineer, DB2 for z/OS Development
Overview of SQL Enhancements in IBM DB2 9 and 10

15:30                            Soru & Cevap ve Kapanış


Katılım için lütfen isim, soyad ve kurum bilginizi aşağıdaki eposta’ya iletir misiniz.

Cuneyt Goksu / tdug@idug.org

16 Dec 2011

REFERENTIAL INTEGRITY(RI)

DB2 for z/OS açısından RI kullanımı veri kalitesinin, veritabanında güvenli olarak sağlanmasını garanti ediyorsa da, RI her zaman kullanılması desteklenen bir özellik değildir. RI’nin kullanılmasının bazı riskleri vardır.

Availability:
1) Parent (P) Tablo PIT Recovery yapılırsa, Dependent bütün tablolar CHECK Pending’e düşer.
2) Dependent (D) Tablo PIT Recovery yapılırsa tablo CHECK Pending’e düşer.
3) Code Tabloları Parent olarak kabul edilip, sistemdeki bütün tablolardan Foreign Key yaratılırsa ve Code Tablosuna yapılacak bir LOAD REPLACE bütün operasyonel tabloları CHECK PENDING’e düşürür.
4) P ve D, Crash Recovery yapılırsa CHECK Pending oluşmaz.

İlk 3 madde availability riski taşımaktadır. Problem yaşanması durumunda kesinti oluşturur.

Performans:
1) D tablo üzerinde FK için Index tanımlamak gerekir. Bu Indexin cardinality’si çoğunlukla düşük kalır ve Optimizer tarafından performans amaçlı seçilmeyebilir. Sadece P’den yapılan CASCADE DELETE’lerde ve JOIN işlemlerinde Dependent kayıtları bulmak için kullanılır. Dolayısı ile Uygulama SQL’lerin kullanma ihtimalinin az oldugu bir index her FK için tanımlanır. Bu da D tablolarının DELETE/INSERT maaliyetini arttırır.
2) D tabloya bir UOW’de aynı FK için yapılacak birden fazla INSERT olursa, DB2 her bir INSERT’de P tabloya gidip bakar. Eger DB2-RI değil, APP-RI kullanılırsa uygulama mantığı doğru yazıldıgı taktirde P tabloya tek bir lookup ile bu işe gerek kalmaz.
3) Eger Partitioned TS’de FK, DPSI (Data Partitioned Secondary Index) olarak tanımlanırsa, P’den yapılacak DELETE, bütün partition’ları tarar. Application ile yapılırsa WHERE koşulu ile atlanacak bu durum, DB2-RI ile kaçınılmaz olabilir.

3 Dec 2011

7 Nov 2011

"Big Data" nedir? Geleneksel "Veri Yönetimi"ne etkisi ne olur?

Teknolojinin yaygınlaşması, herkes tarafından ulaşılabilir olması ve kullanım biçiminin dönüşmesi, üretilen ve işlenen verinin büyüklüğünün de devasa olarak artmasını beraberinde getirdi. Nasıl ki kişisel hayatlarımızda iki üç disket veya birkaç CD'ye sığan bilgilerimiz artık 1TB'lık yüksek kapasiteli disklere zor sığar hale geldiyse, kurumlar da bu devasa hız ve çeşitlilikte artan verilerini nereye sığdıracaklarını bilemiyorlar. Büyük miktarda veri ile uğraşmak BT’nin yabancı olduğu bir konu değil fakat BIG DATA konusu, veri ambarı, ODS, iş analizi ve veri analizi başlıklarından oldukça farklı.

Verinin üretilme hızı ve çeşitliliği o kadar fazla ki, veri saklama cihazlarının teknolojileri ve üretilme hızları, bu hızın gerisinde kalıyorlar. Saklama ve veri işlemenin birim maaliyetleri azalsa da, hızlı üreyen veriyi saklamak ve işlemenin toplam maaliyeti artıyor.

- 2020'lerde toplam sayısal verinin 35ZettaByte olması bekleniyor. 1 ZettaByte = 1Milyar TeraByte. Bloglar, sosyal medya, elektronik sensörler vb cihazlar tamamen yapısal olmayan yepyeni bir dünya sunuyorlar.
- Cep telefonları, Internet'deki yapılan her tık, sayısal fotoğraf makineleri veri üreten birer fabrikaya dönüştü. Geçen on yıldan beri veri tabanı sunucularının sayısı 6 kat artarak, 32 Milyon'a çıktı.
- Mevcut verilerin %80'i yapısal değil; Eposta, fotograf, video, müzik dosyası, XML, vb şeklinde ortaya çıkan, geleneksel ilişkisel veri tabanlarında saklanmayan, “Gri Data” olarak adlandırılan “Ham” veri.
- Özellikle sağlık ve finans sektörü ile hükümetlerin "BIG DATA" konusuna daha çok kafa yormaları gerekecek. Çünkü hukuki olarak geriye dönük bu devasa sayısal bilgilerin saklanması, yedeklenmesi, arşivlenmesi ve gerektiğinde hızlı olarak erişilebilir olması gerekiyor. İlk tahminler, ABD’nin sağlık sektörünün yıllık 300Milyar Dolarlık “BIG DATA” katma değerinde iş hacmine sahip olduğu yönünde.

McKinsey'in bir raporuna göre 2010'da ABD ve Avrupa'daki toplam saklama kapasitesi 30ExaByte ama üretilen veri 1.2ZettaByte. Bu durumda üretilen ama saklanmayan, saklanmadığı için de işlenmeden yok olan veri oldukça fazla. Bu yaklaşımdan yola çıkarsak, "veri işleme" konusunda da ezber bozan çözümler üretilmesi gerekiyor. IBM, Samsung, GE Global saklama ve özellikle veriyi "kaynağında işleyecek" teknolojiler üretme konusunda çalışıyorlar.

"Big Data" olgusunu tarifleyen 5 bileşen var
-Volume (Veri Büyüklüğü): IDC istatistiklerine göre 2020'de ulaşılacak veri miktarı, 2009'un 44 katı olacak. Şu anda kullanılan, "büyük" diye adlandırdığımız kapasiteleri ve "büyük sistemleri" düşünüp, bunların 44 kat büyüklükte verilerle nasıl başa çıkacaklarını hayal etmek gerekiyor! Kurumun veri arşivleme, işleme, entegrasyon, saklama vb teknolojilerinin bu büyüklükte veri hacmi ile nasıl başa çıkacağının kurgulanması gerekli hem de hemen.

- Velocity (Hız): "Big Data"nın üretilme hızı çok yüksek ve gittikçe artıyor. Daha hızlı üreyen veri, o veriye muhtaç olan transaction sayısının ve çeşitliliğinin de aynı hızda artması sonucunu doğuruyor.

- Variety (Çeşitlilik): Üretilen verinin %80'i yapısal değil ve her yeni üretilen teknoloji, farklı formatlarda veri üretebiliyor. Telefonlardan, tabletlerden, entegre devrelerden gelen türlü çeşitlilikte "Veri Tipi" ile uğraşılması gerekiyor. Bir de bu verilerin farklı dillerde, Non-Unicode olabileceğini düşünürseniz, entegre olmaları, birbirlerine dönüşmeleri de gerekli.

- Verification (Doğrulama): Bu bilgi yoğunluğu içinde verinin akışı sırasında "güvenli" olması da bir diğer bileşen. Akış sırasında, doğru katmadan, olması gerektiği güvenlik seviyesinde izlenmesi, doğru kişiler tarafından görünebilir veya gizli kalması gerekiyor.

- Value (Değer): En önemli bileşen ise değer yaratması. Bütün yukarıdaki eforlarla tariflenen BIG DATA'nın veri üretim ve işleme katmanlarınızdan sonra kurum için bir artı değer yaratıyor olması lazım. Karar veriş süreçlerinize anlık olarak etki etmesi, doğru kararı vermenizde hemen elinizin altında olması gerekiyor. Örneğin sağlık konusunda stratejik kararlar alan bir devlet kurumu anlık olarak bölge,il,ilçe vb detaylarda hastalık, ilaç, doktor dağılımlarını görebilmeli. Hava Kuvvetleri, bütün uçucu envanterindeki taşıtlarının anlık yerlerini ve durumlarını görebilmeli, geriye dönük bakım tarihçelerini izleyebilmeli. Bir Banka, kredi vereceği kişinin, sadece demografik bilgilerini değil, yemek yeme, tatil yapma alışkanlıklarını dahi izleyebilmeli, gerekirse sosyal ağlarda ne yaptığını görebilmeli.

BIG DATA’nın temel olgusu aslında yeni birşey de değil; adı değişse de geçmişte de vardı. Internet kullanımının patlama yapması ve sanal olarak da olsa insanlığın daha çok sosyalleşmesi, birçok yeni teknolojinin ulaşılabilir ve ucuz hale gelmesi bizi bu devasa büyüyen veri okyanusunda yeni arayışlara itti. İş yapış biçimi de bizi buralara getirdi; geleneksel yaklaşımda iş sahibinin soru, sorun ve ihtiyaçlarına göre, BT mimariyi çıkartır; ihtiyaca cevap sağlardı. Günümüzde ise BT sunduğu platform ile iş sahibinin özgürce veriyi keşfetmesini sağlayacak altyapılar sunmak zorunda. Geleneksel ilişkisel veri tabanları güncelliğini, OLTP işlevini artarak yerine getirmeye devam edecek olsa da, BIG DATA’nın yeni ihtiyaçlarından dolayı, veriyi kaynağında işleyecek ya da IBM-Netezza, Oracle-Exadata, IBM-DB2 Analytical Machine vb “appliance” olarak anlamlandırılan yazılım, uygulama ve donanımı içinde barındıran çözümler ve NoSQL, Hadoop, Cassandra, JAQL, HBASE vb daha emekleme aşamasındaki çözümler BIG DATA’yı adreslemeye çalışacak.

BIG DATA yeni bir platform ve veri işleme anlayışı getirecek, zaman içinde yazılım firmalarından bu konuda onlarca çözüm çıkacak ve mevcut Bilgi Depolarına entegre edilerek büyümesi ve beraber yaşamaları kaçınılmaz hale gelecek. İlk çıkan ürünlerin çoğunluğu Açık Kaynak kodlu prototip uygulamalar olduğundan, ileri seviye danışmanlık ve küresel destek hizmetlerinden yoksunlar. Ama kurumsal sürümlerinin çıkması ve yine küresel yazılım şirketleri tarafından paylaşılması an meselesi.


6 Oct 2011

IDUG DB2 Tech Conference in Prague 13-18 November registration is open

Register Now
http://bit.ly/IDUGEMEA
Early Registration Until 17 October 2011

Join business and technology leaders and experience over four days of in-depth, rich education covering DB2 family of products including Business Analytics,

Conference Highlights
• More than 100 technical sessions
• IBM Key Note with Industry Experts
• Over 38 FREE Certification Tests
• FREE DB2 Pre-Certification Seminars
• DB2 10 Migration Planning Workshop
• FREE CA User Day
• One Day Seminars
• Solution Center

29 Jul 2011

DB2 for z/OS Tracks in IDUG EMEA 2011




DB2 for z/OS Sessions provides you the best technical content about IBM’s flagship database. IBM Distinguished Engineers talk about product updates, V10 Migration experiences and enhancements. Industry experts and Leading Gold Consultants provides you the best practices and tips&tricks from the ground. Top User speakers share their experiences with DB2 for z/OS Migration and performance tuning efforts. Top vendor experts talk about experiences and new functions. What you will learn from those sessions will provide the maximum ROI to your skills and to your enterprise.

For instance;

Terry Purcell's session called "What's new from the optimizer in DB2 10 for z/OS?" will have the latest query optimization enhancements for DB2 10 for z/OS, the world’s most respected cost based optimizer. And as delivery of DB2 10 draws closer, the plan solidifies, and beta customer and internal measurement feedback is more readily available. This presentation will share the insight uncovered in the early usage, provide the motivation for each enhancement, and highlight that actual enhancements


John Campbell's "DB2 10 for z/OS Planning and Very Early Migration Experience" will introduce and discuss very early experiences and lessons to be learned with DB2 10 for z/OS. It will provide quick hits on preparing for and executing the migration, performance expectations and opportunities, virtual storage constraint relief, some instrumentation changes, use of 1MB real storage frame size, use of hash access, value of rebind, etc.


Bryan Paulsen with "DB2 10 for z/OS - John Deere's Beta Experience" will talk about John Deere's participation to the IBM Beta program for DB2 10 for z/OS. This presentation will introduce you to some of the new features available in DB2 10 that we tested at John Deere. You will gain a general understanding of these features along with some items of interest we found while testing. I will also introduce you to some of the equipment John Deere makes during the course of the presentation.


And Last but not the least Frank Petersen with "Experience DB2 10 experiences" will go through the experiences from Bankdata/JN data concerning going to DB2 10. Bankdata took part in the beta program for DB2 10 and there will be some brief information about this process. In the spring 2011 the Bankdata systems are planned to go through a 6 months process to be upgraded to DB2 10. Frank will give experiences from this process, both from a performance related view as from talking about problems met during the way. He will try to make the presentation as up to date as possible as the process is continuing right up to the conference.

This is just a subset of conference grid.

And there some more


1) IBM Pre-Certification & Migration Planning Workshop classes
http://bit.ly/IDUGEMEAMP

2)Registration for DB2 10 Migration Planning Workshop at IDUG
http://bit.ly/MPWIDUG

3) Registration for IDUG EMEA 2011 Conference
http://bit.ly/IDUGEMEA