Cam Teknolojilerindeki Kaotik Süreçlerin Sinir AgıTemelli Modellemesi

Neural Network Based Modeling of ChaoticProcesses in Glass Technologies

Benan AkçaEln. Sis. Müh.

Milli Savunma Üniversitesi, DEBIMbakca@dho.edu.tr

Sinem EraslanBilim ve Teknoloji Merkezi

Sisecam A.S.seraslan@sisecam.com

Batuhan GündogduElk.Eln.Mühendisligi

Milli Savunma Üniversitesi, DHOmbgundogdu@dho.edu.tr

Özetçe —Isıgın dalga boyu özelinde cam yüzeyinin sergiledigiyansıma ve geçirgenlik özellikleri, camın ısı izolasyon yeteneginive rengini dogrudan etkilemektedir. Kaplama sonrasında buözelliklerin karakteristikleri hesaplanabilirken, mukavemet vegüvenlik özelliklerini artırmak için uygulanan temperleme islemisonrası, optik özellikler degisim göstermekte ve temperlemegeregi uygulanan ısıl islemin optik özelliklere etkisi matematikselve analitik islemlerle hesaplanamamaktadır. Bu bildiride ısılislem öncesi ve sonrası elde edilen optik spektra ölçüm degerlerikullanılarak, ısıl islemin etkisinin yapay ögrenme teknikleri ilemodellemesi çalısılmıstır. Yapılan deneylerde cam kaplamadaısıl islemin etkisinin yapay sinir aglarının egitilmesi yöntemiylemodellenebilecegi gözlemlenmistir.

Anahtar Kelimeler—cam kaplama, yapay sinir agları, ısıl islem,termal cam.

Abstract—The Reflection and permeability properties of glasssurfaces measured per each wavelength of light directly affectsthe heat insulation ability and the color of the glass. While thecharacteristics of these properties can be calculated prior tocoating process, the optical properties vary upon the temperingprocess applied to increase the strength and robustness. Theoptical effects of the heat treatment that is applied duringthe tempering process cannot be calculated and modelled bymathematical and analytical approaches. In this paper, a machinelearning-based modeling of the effects of the heat is investigated,by making use of the past optical spectral measurement values,obtained before and after the heat treatment. The experimentsshow that the modeling of the heat treatment effect on glasscoating is feasible using artificial neural networks.

Keywords—glass coating, artificial neural networks, heat treat-ment.

I. G IRIS

Son yıllarda kaplamalı camlar, otomotiv, mimari ve ekranendüstrisinin içinde bulundugu teknoloji yarısında yerini almısbir ürün grubu olarak karsımıza çıkmaktadırlar. Teknolojiningelismesi ve endüstriyel ihtiyaçların artmasıyla gittikçe dahakarmasık kaplamalar üretilmistir. Bunlardan bazıları LCDekranlar için indium tin oxide (ITO) kaplamalar, iç mekan-larda ısı kaybını minimuma indirgemek için kullanılan Low-e

kaplamalar ve görünür ısıgı geçirerek günes ısısının bir kıs-mını yansıtmak için kullanılan solar kontrol kaplamalar olaraksıralanabilinir [1]. Temperlenmis cam, mukavemeti artırmakiçin kritik derecelere kadar ısıtılmıs ve aniden soklanaraksogutulmus camlardır. Bu camların temperleme islemi sonrasıdayanıklılıgı arttıgı gibi olası bir kırılma anında da küçükparçalara ayrılacagından, ısıl islem görmemis camlara göredaha güvenlidirler [2]. Bu özellikleri sayesinde temperlemeislemi kaplamalı camlarda da uygulanmaktadır.

Isıl islem süreci tamamlanmıs son üründe, arzulanan optikperformansı sergileyebilecek camların elde edilebilmesi içinısıl islem sırasında camın optik performans özelliklerinin nesekilde etkileneceginin tespit edilmesi gereklidir. Kaplamafilmlerinin optik özelliklerinin kestirilmesinde çesitli anali-tik yöntemler uygulanan çalısmalar mevcuttur. [3] [4] [5][6]. Fakat temperlenmis kaplamalı camlarda ısıl islem süreci,fiziksel kaidelerle analitik olarak modellenemeyen ve bir-birinden bagımsız kaotik süreçlerin bir bileskesi niteligindeoldugundan, bu islem öncesi kaplamalı camın sahip olduguoptik özellikleri kullanarak ısıl islem sonrası optik özellik-ler analitik/nümerik hesaplama yöntemleri ile kestirilememek-tedir. Bu durum, kaplamalı cam sistemlerinde ısıl isleminoptik spektraya etkisinin baska metotlar ile modellenmesiihtiyacını dogurmustur. Isıl islem sürecinin, kaotik bir süreçolması nedeniyle analitik olarak modellenememesine karsın,bu islemin geçmis ve etiketli verilerinin (eski optik spektraölçümlerinin) kullanılmasıyla, yapay ögrenme yöntemleri ilemodellenmesi mümkün ve de aynı zamanda cazip görünmek-tedir. Öyle ki, malzeme biliminde bu gibi analitik modellemesimümkün olmayan süreçlerin yapay ögrenme ile modellen-mesi literatürde yakın zamanda ilgi duyulan çalısmalardandır.Günümüzde ısıl islem görmemis kaplama filmlerinin optiközelliklerinin kestirilmesinde analitik yöntemlerin yanısıra ya-pay ögrenme teknikleri de kullanılmaktadır [7] [8]. Isıl isleminmodellenmesi kapsamında yapılan çalısmalara örnek olarak,alüminyum alasımının [9], [10], ahsap materyalinin [11], [12]ve titanyum alasımının [13], [14] maruz kaldıkları ısıl isleminYapay Sinir Agı (YSA) ile modellendigi çalısmalar mevcut-tur. Bu çalısmalarda egitilen YSA modelleri sayesinde ısılislem öncesi materyal özellikleri kullanılarak, ısıl islem sonrasımateryal özellikleri basarılı bir yakınsama ile kestirilmektedir.Bu bildiride sunulan çalısmanın amacı ise, ısıl islem öncesi978-1-5090-6494-6/17/$31.00 c©2017 IEEE

ölçülen optik degerler ile ısıl islem sonrası degisen optikdegerlerin makine ögrenmesi algoritmaları kullanılarakkestirilmesidir.

Bildiri su sekilde devam etmektedir. Ikinci bölümde, kul-lanılan yöntemler açıklanmakta, üçüncü bölümde ise deneyselçalısmalar açıklanmaktadır. Dördüncü bölümde, elde edilensonuçlar özetlenerek çalısma sonuçları degerlendirilmekte,ayrıca konu ile ilgili gelecekte yapılacak çalısma konusubelirtilmektedir.

II. YÖNTEMLER

Bu bildiride kaplamalı camların ısıl islem sonrası degisenoptik spektra degerlerinin kestirilmesi problemine lineer re-gresyon ve YSA temelli gözetimli ögrenme teknigi ile bir yak-lasım gelistirilmistir. Gözetimli ögrenmenin (supervised learn-ing) amacı, problem kapsamında daha önce tecrübe edilmisörnek giris çıkıs çiftleri kullanılarak girdiden çıktıya ulasmakiçin bir fonksiyon egitmektir [15]. Egitilmis fonksiyon (model)sayesinde daha önce karsılasılmamıs örneklere yönelik çıktılarkestirilebilmektedir.

Bu çalısmada eski optik performans ölçüm degerleri kul-lanılarak, kaplamalı camların maruz kaldıgı ısıl islem sürecininlineer regresyon ve YSA ile modellenmesinde, geri yayılımlıhata metoduna dayalı ögrenme kuralı kullanılmıstır. Hatanınminumuma indirgenmesi amacıyla ag parametreleri (agırlıkdegerleri) gradyan düsüs algoritması ile egitilebilmektedir.Geri yayılım metodu (backpropagation), gradyen düsüs algo-ritması kullanarak ag parametrelerini giris-çıkıs çiftlerindenolusan egitim setine en uygun sekilde ayarlar. [16]. Geriyayılma islemi genel hata gradyeninin türevi ile elde edilir[15]. Kaplamalı camların kullanım alanlarına bakıldıgında op-tik özelliklerin ön plana çıktıgı görülmektedir [1]. Optik özellikkavramı ise temel olarak camların geçirgenlik ve yansımaegrileri ile iliskilidir. Bu çalısmada kaplamalı camın optiközellikleri; T (Geçirgenlik katsayısı), Rc(Kaplamalı yüzeyyansıma katsayısı) Ru (Kaplamasız yüzey yansıma katsayısı)parametreleri ile iliskilendirilmistir.

Isıgın cam içerisinden geçerken camın sergiledigi optiközellikler maruz kalınan ısıgın dalga boyu bazında degisken-lik göstermektedir. Isıl isleme yönelik giris çıkıs iliskisimodellenirken kullanılabilecek yöntemlerden biri, ısıl islemöncesi optik özellik parametrelerinin (T pre, Rpre

c , Rpreu ) spek-

tra boyunca örnekleme periyodu uyarınca ayrıklastırılmıs sek-ilde (bu çalısmada optik spektrum 445 dalga boyu degeri ileörneklenmistir), YSA modeline girdi olarak verilerek çıkıstaısıl islem sonrası spektraların (T post, Rpost

c , Rpostu ) kestirilme-

sidir (Bkz. Sekil 1). Bu yöntemde YSA modelinin girisindekiparametre sayısı 445 gibi yüksek bir sayı olacagından, modelinegitim sırasında kullanılacak olan örneklem çifti sayısı daparametre sayısına oranla yeterli çoklukta olmalıdır. Fakatbu yöntem ile her bir numunenin optik spektrası yalnız birörneklem çifti olarak degerlendirilebildigi için, mevcut verimiktarının bu yöntemin verimli sonuç vermesi açısından yeter-siz kalması kaçınılmaz olmaktadır.

Bu durumdan hareketle veri biliminin temel hedeflerindenbiri olan "veriyi en iyi sekilde degerlendirme" amacıyla, optiközelliklere ait tüm spektraların giris katmanında girdi parame-tresi olarak kullanılması yerine, dalga boyu ve dalga boyu

Sekil 1: Giris spektrasından çıkıs spektrasını kestirilmesiniöneren model.

bazındaki optik özellik degerleri, girdi parametresi olarak kul-lanılmıstır. Böylece, veri setinin spektranın örneklem periyoduoranında genisletilmesi mümkün olacak ve her bir optik özellikiçin (T pre, Rpre

c , Rpreu ) spektranın örnekleme periyodu kadar

ısıl islem öncesi ve sonrası örneklem çifti elde edilecektir.Bu çalısmanın en özgün yanı, burada belirtilen veri arttırmateknigi ile yapay ögrenme tekniginin bu problem için mümkünkılınmasıdır. Yukarıda anlatılan giris çıkıs iliskisi yapay siniragı üzerinde Sekil 2’de yer almaktadır.

Sekil 2: Yapay sinir agı modelinde optik spektra girdi veçıktıları.

Deneylerde, giris vektörlerinin boyutları farklı skalalardaolması sebebiyle, vektörler 0 ortalama ve birim varyansasahip olacak sekilde z-normalizasyonu ile normalize edilmistir(parametrelerden yansıma ve geçirgenlik ölçümleri sıfıraçok yakın degerler alabilirken, yeni parametre olan dalgaboyu 2500nm degerini alabilmektedir). YSA modeli egitimve kestirimleri Python platformunda Keras araç takımınınkütüphaneleri kullanılarak [17] yapılmıstır. Hata fonksiyonuolarak egitimde mini küme (mini batch) üzerinden hesaplananOrtalama Karesel Hata (OKH) kullanılmıstır.

III. DENEYLER

A. Deney Düzenegi

Deneylerden kullanılan veri setleri asagıda oldugu gibidir:

Veri Seti-I: Bir kaplamalı cam numunesinden 6 adet parçaelde edilmis, bu parçaların ısıl islem öncesi ve sonrası optiközellikleri ölçülmüs ve 5 adedi egitimde 1 adedi kestirimdekullanılacak sekilde egitim/kestirim setleri olusturulmustur.

Veri Seti-II: Birbirinden farklı kaplamalı camlardan eldeedilen 36 cam numunesinin optik özellikleri ile bir veri

seti olusturulmus, veri setinde bulunan numunelerin 30adedi egitimde 6 adedi kestirimde kullanılacak sekildeegitim/kestirim setleri ayrıstırılmıstır. Modelleme veri setleriolusturulurken her numuneden, 280nm− 2500nm aralıgında,5nm rezolüsyonunda toplam 445 dalga boyu degerine karsılıkgelen optik özellik degerleri spektrofotometre ölçümleri ileelde edilmistir. Veri Seti-II’de, ısıl islem sonrası spektrumuetkileme konusunda kaplama katmanları arasındaki en agresifkatman olan NiCr katmanının toplam kalınlıgı tüm numunel-erde esit kalınlıkta tutulmustur.

B. Deney Sonuçları

Uygulanan bu yöntem sonucunda giris kat-manındaki nöron sayısı 445’den 4’e düsürülmüs(λ, T pre(λ), Rpre

c (λ), Rpreu (λ)), egitim setindeki veri miktarı

ise her optik özellik için 30 örneklem çiftinden 30x445örneklem çiftine yükseltilmistir (Veri Seti-II için).

1) Lineer Regresyon: Önerilen metodun fizibilitesinin testimaksadıyla Veri Seti-I ile ilk ögrenme algoritması olarakçok degiskenli lineer regresyon algoritması kullanılmıstır. Budeney 15 kez tekrarlanmıstır. Kestirimler sonucunda eldeedilen modelin kestirim egrilerinin, gerçek optik spektra egri-lerine yakınsama hatalarını içeren olan OKH vektörünün orta-lama ve standart sapma degerleri Sekil 3’de gösterilmistir.

Sekil 3: Lineer Regresyon ile kestirilen optik spektra egrileri(Veri Seti-I)

2) Yapay Sinir Agları: Lineer model kullanıldıgında ke-stirim egrisi gerçek egriyi oldukça yakın takip edebilmeklebirlikte, OKH degerleri ve OKH standart sapma miktarı yüksekçıkmıstır (Sekil 3). Bu durum lineer regresyon yaklasımının,ısıl islem ameliyesinin açıklanmasında makul ancak yeterlikompleksiden yoksun oldugunu isaret etmektedir. Bu sebepleısıl islemin optik spektraya olan etkisi yapay sinir agı modelikullanılarak modellenmistir. Bu deneyde YSA modeli mimarisi

tek gizli katmana sahip derinlikte tasarlanmıs, gizli katmandakinöron sayısı 40 alınmıs ve 40 epok egitim yapılmıstır. Egitimdegradyen düsüs algoritması olarak adam (adaptive momentestimation [18], aktivasyon fonksiyonu olarak tanh (hiperboliktanjant) fonksiyonu kullanılmıstır.

Bu deney, YSA modelinin problem özelinde lineer re-gresyon modeli ile karsılastırılması niteliginde olan bir deney-dir. Bu mantıkla YSA modeli, bir önceki deneyde kullanılanegitim seti olan Veri Seti-I kullanılarak egitilmis ve egitilenmodel ile test setinde yer alan numunenin ısıl islem sonrasıoptik degerleri kestirilmistir. Bu deney 15 kez tekrarlanmıs,her deneyde rastgele seçilen egitim ve validasyon setleri kul-lanılmıstır. Yapılan deneylerde, 15 spektrum kestirilmis (Deneytekrarı x Test Seti). YSA modelinin kestirim egrileri, lineermodelin kestirim egrilerine kıyasla gerçek degerlere daha iyiyakınsamıs ve bu durumun dogal sonucu olarak da OKH vestandart sapma degerleri çok daha düsük çıkmıstır. (Sekil 4)

Sekil 4: Veri Seti-I’de YSA modeli optik spektra kestirimbasarımı

Yapılan deneylerde probleme YSA modeli ile yaklasımınbasarılı sonuçlar verdigi açıkça görülmüstür. Bu sonuçlararagmen aynı camdan alınan numuneler ile yapılan deneyler,modelin genellenmis nihai performansına karar verilmesi içinyeterli çesitlilik saglayamamaktadır. Bu sebeple, YSA modeliVeri Seti-I’in aksine numunelerin farklı camlardan elde edildigiVeri Seti-II kullanılarak tekrar egitilmistir.

YSA modeli öncelikle Veri Seti-II’nin egitim setinde bu-lunan 30 numuneden elde edilen optik özellikler kullanılarakadam [18] gradyan düsüs algoritması ve ReLU (rectifiedlinear unit) aktivasyon fonksiyonu ile 100 epok egitilmistir[19] . Egitimi müteakip egitimde kullanılmamıs 6 numuneninısıl islem öncesi optik degerleri kullanılarak, ısıl islem son-rası degerleri kestirilmistir. Bu deney, nihai performansı vegenelleme yetenegini ölçecek deney niteligi tasıması itibariyle

30 kez tekrarlanmıs, her deneyde rastgele seçilen egitim ve val-idasyon setleri kullanılmıstır. Yapılan deneylerde, 180 (Deneytekrarı x Test Seti boyutu) spektrum kestirilmis kestirimlersonucunda elde edilen modelin kestirim egrilerinin, gerçekoptik spektra egrilerine yakınsama hatalarını içeren olan OKHvektörünün ortalama ve standart sapma degerleri Sekil 5’degösterilmistir.

Sekil 5: YSA modelinin, farklı nitelik ve optik performanslıcamlardan elde edilen numunelerden olusan Veri Seti-II’dekioptik spektra kestirim basarımı. Farklı camlardaki varyasyonagenellemenin basarılı oldugu gözlenmektedir.

IV. SONUÇLAR, TARTISMA VE GELECEK ÇALISMALAR

Yapılan deneylerde öncelikle lineer regresyon modeli son-rasında ise yapay sinir agı modeli, kaplamalı camın ısıl islemöncesi ve sonrası optik spektra veri bankası ile egitilerek giris-çıkıs iliskisi modellenmistir. Nihai YSA modeli ile, egitimdedaha önce hiç kullanılmamıs verilerin kestiriminde, düsükhata ve yüksek genelleme özelligi ile yüksek seviyede basarısaglanmıstır.

Bu çalısma sonucunda kaplamalı temperli cam üretimiiçin, ısıl islem öncesi optik spektra egrileri bilinen kapla-manın, ısıl islem sonrası optik spektra egrileri simülasyonortamında kestirilebilecektir. Laboratuvar ve üretim denemesiölçekli çalısmalarda, ısıl islem gibi maliyetli ve zaman alan birprosesi gerçeklestirmeye ihtiyaç duymadan, camın ısıl islemsonrası karakteristigini ortaya koyabilecek bir simülasyon or-tamı saglanabilmesi, gelistirme çalısmaları kapsamında çokciddi bir zaman kazancı ve maddi kazanç getirisi saglayacaktır.

Bu çalısmanın gelistirilmesine yönelik gelecekte yapıla-bilecek çalısmalara örnek olarak, degisken kaplama kalınlıklarıiçeren veri setleri kullanılarak, YSA modeli egitiminde spesi-fik kaplama özelliklerinin de girdi olarak kullanılmasınınkestirim sonuçlarına etkisinin ölçülmesi gösterilebilir.

KAYNAKÇA

[1] G. Bräuer, “Large area glass coating,” vol. 112, no. 1-3, pp. 358–365,1999.

[2] D. Uhlmann and N. Kreidl, Elasticity and Strength in Glasses, vol. 5.Elsevier, 2012.

[3] R. Swanepoel, “Determination of the thickness and optical constantsof amorphous silicon.,” Journal of Physics E: Scientific Instruments.,vol. 16, pp. 1214–1222, 1983.

[4] Y. Jin, B. Song, Z. Jia, Y. Zhang, C. Lin, X. Wang, and S. Dai,“Improvement of swanepoel method for deriving the thickness and theoptical properties of chalcogenide thin films.,” Optics express., vol. 25,pp. 440–451, 2017.

[5] M. Caglar, Y. Caglar, and S. Ilican, “The determination of the thicknessand optical constants of the zno crystalline thin film by using envelopemethod,” Journal of optoelectronics and advanced materials, vol. 8(4),pp. 1410–1413, 2006.

[6] M. Kubinyi, N. Benkö, A. Grofcsik, and W. J. Jones, “Determinationof the thickness and optical constants of thin films from transmissionspectra,” Thin Solid Films, vol. 286(1-2), pp. 164–169, 1996.

[7] C. Shen, Y. Chen, S. T. Wang, C. Y. Chang, and R. C. Hwang, “Theestimation of thin film properties by neural network,” Automation,Control and Intelligent Systems., vol. 4, pp. 15–20, 2016.

[8] A. A. Attia, M. S. El-Bana, D. M. Habashy, S. S. Fouad, and M. Y.El-Bakry, “Optical constants characterization of As30Se70−xSnx

thin films using neural networks,” Journal of Applied Research andTechnology, vol. 15(5), p. 423–429, 2017.

[9] R. G. Song and Q. Z. Zhang, “Heat treatment technique optimizationfor 7175 aluminum alloy by an artificial neural network and a geneticalgorithm,” vol. 117, no. 1-2, pp. 84–88, 2001.

[10] A. Canakci, T. Varol, and S. Ozsahin, “Artificial neural network topredict the effect of heat treatment, reinforcement size, and volumefraction on alcumg alloy matrix composite properties fabricated by stircasting method. the international journal of advanced manufacturingtechnology,” The International Journal of Advanced ManufacturingTechnology, vol. 78(1–4), p. 305–317, 2014.

[11] S. Tiryaki and A. Aydın, “An artificial neural network model forpredicting compression strength of heat treated woods and comparisonwith a multiple linear regression model,” in Construction and BuildingMaterials, vol. 62, pp. 102–108, 2014.

[12] A. Zanuncio, A.and Carvalho, L. Silva, M. Silva, A. Carneiro, andJ. Colodette, “Prediction of the physical, mechanical and calorimetricproperties of eucalyptus grandis heat-treated wood using artificial neuralnetworks,” Scientia Forestalis, vol. 45, pp. 109–118, 2017.

[13] S. Malinov, W. Sha, and J. J. McKeown, “Modelling the correlationbetween processing parameters and properties in titanium alloys usingartificial neural network,” in Computational Materials Science, vol. 21,pp. 375–394, 2001.

[14] N. S. Reddy, B. B. Panigrahi, C. M. Ho, J. H. Kim, and C. S.Lee, “Artificial neural network modeling on the relative importance ofalloying elements and heat treatment temperature to the stability of andphase in titanium alloys,” Computational Materials Science, vol. 107,p. 175–183, 2015.

[15] S. J. Russell and P. Norvig, Artificial intelligence: a modern approach.Pearson Education Limited, 2016.

[16] T. M. Mitchell, Machine learning. McGraw Hill, 1997.[17] F. C. vd., “Keras,” 2015.[18] D. P. Kingma and J. Ba, “Adam: A method for stochastic optimization,”

arXiv preprint arXiv:1412.6980, 2014.[19] V. Nair and G. E. Hinton, “Rectified linear units improve restricted

boltzmann machines,” In Proceedings of the 27th international confer-ence on machine learning (ICML-10), pp. 807–814, 2010.