ESTIMACIN DE BIOMASA EN UNA FERMENTACIN FEED-BATCH UTILIZANDO EL ALGORITMO GMDH MODIFICADO CON REALIMENTACIN NEGATIVA.

Fidel Hernndez Lozano *, Francisco Herrera Fernndez **

* ECASA, prof. adjunto Univ. Camagey, Cuba. (correo-e:

lozano@cmw.ecasa.avianet.cu)

** Prof. Titular Univ. Central de Las Villas, Cuba.(correo-e: herrera@uclv.edu.cu)

Resumen: Una de las variables de mayor inters en los procesos biotecnolgicos es la concentracin de biomasa. La determinacin continua, en lnea (on-line) y exacta de este parmetro resulta muy difcil y costosa. Basados en la idea de la inferencia surgen los llamados sensores virtuales (Soft-Sensors), estos instrumentos permiten estimar la variable deseada a partir de los datos medidos. En este trabajo se utiliz una red neuronal para estimar la biomasa en un proceso de fermentacin tipo Feed-batch. En el diseo se aplic el algoritmo Group Method of Data Handling (GMDH) con una nueva estructura basada en el empleo de un lazo de realimentacin negativa y el uso de una ecuacin sigmoidal en la salida de cada neurona cuyo polinomio es de tercer orden. El modelo se prob en la fermentacin de la levadura Pichia pastoris para la produccin de una vacuna por mtodos recombinantes. La estabilidad y capacidad de generalizacin es demostrada. El mtodo propuesto se compar con otras redes neuronales atendiendo a comportamiento del error cuadrtico medio. Palabras claves: GMDH, feed-back, fermentacin, soft-sensor

1. INTRODUCCIN

Obtener una alta concentracin de biomasa es uno de los principales objetivos de la produccin biotecnolgica. La medicin de este parmetro permite controlar el crecimiento celular y optimizar as el proceso. La determinacin exacta, continua y en lnea (on-line) de la concentracin de biomasa, es uno de los principales sueos en la biotecnologa. Entre los mtodos ms comunes para determinar la concentracin de la biomasa estn la extraccin de muestras para gravimetra (peso seco de clulas) o bien la prueba de espectrometra (densidad ptica) (G. Reed at all 2000, Knskoski, M. al all 2006). Dichos mtodos no permiten acciones de control oportunas ya que en la mayora de los casos se realizan fuera del proceso (off-line), esto implica: prdida de densidad de informacin, retraso en la obtencin de resultados y normalmente requieren ms esfuerzo humano (Royce, P.N. 1993). Por esta razn se requiere de un sistema de estimacin robusto y con una buena capacidad de generalizacin, debido a que las fermentaciones nunca son iguales, aun teniendo un control estricto de las condiciones iniciales, substrato e instrumentacin (Jenzsch, M., Simutis, R., Lbbert 2006). La utilizacin de modelos constituye una alternativa de importante aplicacin en estos casos.

En la teora de la modelizacin a partir de datos son ampliamente conocidas las pautas generales del diseo de clasificadores y/o predictores, no obstante existe consenso sobre la necesidad de realizar un abordaje particularizado para cada aplicacin. Los modelos utilizados en al rea de la bioingeniera constituyen problemas complejos en razn de las caractersticas de los modelos a estudiar (Passoni, L.I. 2005). Este concepto deviene del hecho de que la actividad biolgica genera informacin con caractersticas particulares, siendo ms notables las siguientes:

La informacin que se obtiene en forma de seales presenta una relevante no homogeneidad debido a la complejidad estructural de los objetos vivos.

La informacin es emergente de la dinmica de cambio asociada a las propiedades funcionales de los fenmenos que se desean estudiar.

Una de las metodologas de mayor aplicacin en las ltimas dcadas, para la modelacin del crecimiento celular, se basa en la utilizacin de Redes Neuronales Artificiales (RNA). Estas son estructuras formales de carcter matemtico y estadstico con la propiedad del aprendizaje, esto quiere decir, la capacidad de

aprender a partir de ejemplos en la mayora de los casos (Ral R. Leal al all 2002, Leiva, G.A. 2006). La facultad de induccin es una propiedad fundamental en el pensamiento humano. Esta habilidad puede ser implementada por software, adems del aprendizaje y la generalizacin. Induccin significa recolectar pequeas piezas de informacin, combinando estas, utilizando tambin informacin colectada en un alto nivel de abstraccin para tomar una visin compleja del objeto de estudio o proceso (Miroslav norek, P.K., 2006). Existen algunos mtodos para la construccin de modelos inductivos, comnmente conocidos como Group Method of Data Handling, introducido por el cientfico ucraniano Gregori Ivachknenko (Ivakhnenko, A.G. 1971). En general estos modelos inductivos y especficamente el GMDH son generados a partir de la agrupacin de datos. En este trabajo se utiliza un algoritmo GMDH modificado para estimar el crecimiento celular en un proceso de fermentacin, introduciendo tcnicas utilizadas en RNA como el lazo de realimentacin negativa (Tadashi Kondo y Junji Ueno, 2006) y la utilizacin de funciones de activacin en la neurona de salida (Kordik., P. 2006). 2. DESCRIPCIN DEL ALGORITMO GMDH.

El algoritmo GMDH es un mtodo de modelacin inductiva que utilizan los procesos de induccin para construir los modelos del sistema estudiado. El proceso de construccin es altamente eficiente, este inicia partiendo de una forma mnima y el modelo crece acorde a la complejidad del sistema. El problema es descompuesto en pequeas subtareas. Primeramente la informacin de las ms importantes entradas es analizada en el subespacio de baja dimensionalidad, luego la informacin extrada es combinada para formar un conocimiento global de la relacin entre las variables del sistema. Este mtodo es particularmente satisfactorio en la solucin de problemas de modelacin de mltiples entradas para una sola salida (Mutasem Hiassat, N.M. 2004). El primer paso para implementar un algoritmo GMDH consiste en dividir los datos en dos grupos uno de entrenamiento y otro de prueba. Seguidamente se agrupan todas las variables de

entrada independientes en pares ),( ji xx ,

)},(,),,(,),,(),,{( 113121 nnn xxxxxxxx

obtenindose 2/)1( nn ecuaciones,

= = =

++=n

i

n

i

n

jjiijii xxaxaay

1 1 10 (1)

siendo n el nmero de variables de entrada. Los coeficientes ia pueden ser calculados aplicando

anlisis de regresin para el juego de datos de entrenamiento. Un criterio externo, usualmente el error cuadrtico medio (mse), conocido tambin como Criterio de Regularidad (CR) (Ivakhnenko A. G. at all 1998, 1999),

=

=N

n

yyN

CR1

2)(1

(2)

es entonces utilizado para seleccionar la salida que ser servir como entrada de la capa intermedia. Todas aquellas salidas que sean menores que un Criterio de Regularidad, preestablecido inicialmente, podrn ser utilizadas. Posteriormente este criterio adopta el valor del menor valor obtenido en la iteracin anterior. El proceso se repite generando nuevas capas hasta tanto el criterio de error deje de ser menor. Cuando esto ocurre la salida ser la que obtuvo mayor valor de error en la capa anterior y de esta forma habr concluido el proceso de diseo. 3. MODELACIN UTILIZANDO GMDH CON REALIMENTACIN NEGATIVA Y FUNCIN

SIGMOIDAL DE SALIDA. La arquitectura utilizada en este trabajo plantea el uso de un polinomio de orden 3 como ecuacin de regresin de las neuronas de la capa intermedia, la cual se describe en la ecuacin (3) como

103

92

82

7

36

25

24321

axaxxaxxa

xaxaxaxxaxaxaz

jjiji

ijijijik

+++

+++++= (3)

Donde kZ representa la salida intermedia de la

neurona. Cada neurona intermedia puede ser representada con una funcin sigmoidal a la salida (Ivakhnenko A. G., G.A.I 1995, Kondo, T. at all 2003) segn se describe en la ecuacin (4) la cual se representa como:

( )kzk ey

+

=1

1 (4)

Donde ky re presenta la salida de la neurona y kZ es

la salida intermedia.

Figura. 1: Representacin de la neurona intermedia.

Como salida del modelo se establece una neurona no activa representada por la ecuacin (5) que comprende la suma de todas las salidas de la capa intermedia que fueron seleccionadas segn el criterio de regularidad adoptado.

02211 ... wywywywu rr +++= (5)

La funcin de salida del modelo mantiene una relacin lineal con la salida de la neurona de salida segn se puede ver en la ecuacin (6).

uS = (6)

Donde S es la salida del modelo. Las Redes Neuronales Convencionales son satisfactorias en la prediccin a corto plazo, sin embargo las redes neuronales recurrentes han demostrado su potencialidad en la prediccin a largo plazo (Yuan a, P.A.V. 1999). Esta potencialidad tambin puede ser utilizada en el algoritmo GMDH (Kondo, T. 2003). Esta caracterstica se incorpora al modelo segn se puede observar en la fig. 2. Para estimar los parmetros utilizando un lazo de realimentacin negativa se utiliza como variable de entrada realimentada 1tS los valores de salida del

juego de datos de entrenamiento. Una vez seleccionadas las neuronas que mejor cumplen con el criterio de regularidad se evala el modelo utilizando el juego de datos de prueba. Si el CR decrece, los datos de salida obtenidos son realimentados a la entrada 1tS y todas las combinaciones de entradas y

salida son recalculados. Cuando CR crece el lazo se detiene y los parmetros de la red son fijados segn el lazo anterior.

Figura. 2: Modelo GMDH con realimentacin negativa (Tadashi Kondo y Junji Ueno, 2006).

4. APLICACIN EN UN PROCESO DE FERMENTACIN FEED-BATCH.

Para la aplicacin del modelo se utiliz un proceso de fermentacin de una vacuna recombinante donde se utiliza el microorganismo Pichia pastoris. Con este modelo se pretende construir un sensor virtual (Soft-Sensor) que permita censar el crecimiento celular en lnea con el proceso. 4.1. Seleccin de variables.

Los datos que se utilizan para implementar esta red neuronal se tomaron de un proceso de fermentacin de la levadura Pichea pastoris, la cual cuenta de dos etapas en su crecimiento atendiendo al suministro de substrato utilizado. La primera etapa una etapa inicial se produce en glicerol donde no se le agrega substrato y la otra se desarrolla en metanol donde existe un flujo controlado de adicin de substrato en correspondencia con la razn de crecimiento celular. Las variables que se miden en el proceso son: Flujo de Substrato (F), Temperatura (Temp), pH (pH), Oxigeno Disuelto (DO2) y Velocidad de Agitacin (Speed) (B. McNeil, L.M.H. 1990). Considerando S(t-1) el valor de salida realimentado, entonces:

)1(;;

;;;

6524

321

===

===

tSxSpeedxDOx

pHxTempxFx

La concentracin de biomasa es la salida S. Esta variable es medida por la tcnica de peso Hmedo

fuera del proceso, lo cual reduce el nmero de datos a 24 muestras por fermentacin. Para poder incrementar este juego de datos pueden usarse diferentes tcnicas de interpolacin. 4.2. Diseo del modelo.

Despus de formar todas las combinaciones de entrada atendiendo al modelo propuesto, se calculan los parmetros de las ecuaciones polinomiales (3) formadas. Para seleccionar las parejas ms representativas del proceso se calculan los valores de CR (2) estableciendo un valor mximo. Aquellas combinaciones que no estn por debajo del CR son rechazadas quedando las siguientes combinaciones:

=

),(

),(

),(

),(

),(

),(

),(

),(

65

64

63

53

61

51

31

xxf

xxf

xxf

xxf

xxf

xxf

xxf

jizk

Las ecuaciones seleccionadas forman las neuronas de la capa intermedia. La neurona de salida es una ecuacin lineal que tiene como entrada las salidas de las ecuaciones utilizadas en la capa intermedia segn la ecuacin (5). Para repetir el proceso buscando el valor mnimo de error la salida obtenida en paso anterior es usada como entrada recurrente 1tS .

En el proceso estudiado el valor mnimo de error se obtiene en la tercera iteracin Los valores de error pueden observarse en la Fig. 3.

Figura 3: Variacin del error.

Los parmetros, obtenidos por mtodos de regresin, que conforman las ecuaciones de la capa intermedia pueden verse en la Tabla 1. En ella solo aparecen aquellas ecuaciones que describen eficientemente el proceso. Para el clculo de estos parmetros se utiliza el conjunto de datos de entrenamiento. En la tabla 1 aparece un ejemplo de los coeficientes que forman las ecuaciones que describen eficientemente, segn CR, un proceso de fermentacin utilizado como ejemplo.

zij a0 a1 a2 a3 a4

z13 -0.0920 0.0192 0.1807 0.0000 1.0800

z15 -0.1507 0.4945 0.0000 0.0000 -0.0123

z16 -0.0067 -0.4781 1.6431 0.5987 0.9657

z35 -0.0067 -0.4781 1.6431 0.5987 0.9657

z36 -0.0133 -0.0341 1.7345 -1.1577 0.0000

z46 11.7680 33.2520 47.2240 -86.112 -30.965

z56 -0.0400 0.0000 0.6992 0.0000 0.0000

a) parmetros de a0 hasta a4.

zij a5 a6 a7 a8 a9

z13 0.0000 -0.5654 0.0000 0.0000 0.0000

z15 0.0000 0.1788 0.0000 0.0000 0.0000

z16 2.2767 -0.6358 -4.1458 9.5950 -4.3007

z35 2.2767 -0.6358 -4.1458 9.5950 -4.3007

z36 3.0657 0.0000 0.0000 5.4278 -0.5645

z46 57.9910 9.5069 39.7950 53.6910 23.5550

z56 -0.9314 0.0000 0.0000 0.0000 -0.8221

b) parmetros de a5 hasta a9. Tabla 1: Trminos obtenidos para cada ecuacin

neuronal de la capa intermedia. Los resultados de la estimacin paramtrica de la neurona de salida formada por la ecuacin (5) se muestran en la tabla 2.

w0 w1 w2 w3 w4 w5 w6 w7

U

-1.46E+09

-0.6258

0.7442

1.5221

-0.1670

-0.2548

1.46E+09

-0.0420

Tabla 2: Parmetros de la capa de salida. Finalmente la arquitectura obtenida de la aplicacin de los pasos anteriores se muestra en la figura 4

Figura 4: Arquitectura de la red neuronal diseada.

4.3. Anlisis de los resultados obtenidos.

En la figura 5 se muestran los resultados obtenidos al aplicar el conjunto de datos de prueba a la red construida. Aqu se pueden apreciar las dos etapas de crecimiento celular del proceso de estudio.

Figura5: Estimacin utilizando conjunto de datos de

prueba. Para probar la capacidad de generalizacin se prob el sistema utilizando otros grupos de datos de diferentes lotes. En la figura 6 se muestra una grfica con los resultados de una de estas pruebas.

Figura.6: Ejemplo de estimacin utilizando lotes

diferentes.

Esta grfica nos muestra una buena respuesta a otros conjuntos de datos de diferentes lotes de producto. La robustez y estabilidad de la red es otro aspecto que es probado introduciendo ruido blanco en alguna de sus variables. La figura 7 es una muestra del comportamiento de la red al introducir seales de ruido en el oxigeno disuelto, la cual constituye una de las variables de mayor peso en los resultados de la estimacin.

Figura7: Estimacin incorporando seales de ruido

en el proceso. 5. Comparacin con otros algoritmos. El criterio utilizado para la comparacin con otros algoritmos utilizados en la modelacin de este proceso es el error medio cuadrtico (rms) (Ramsey, A. 1994, S. SP. PAPPAS y L.E. 2006). La figura 8 muestra los resultados en la modelacin del caso de estudio utilizando diferentes algoritmos. Dos de ellos han sido obtenidos utilizando el modelo GMDH-Type, el primero en su forma clsica y el segundo corresponde a este algoritmo con realimentacin negativa. Los otros dos modelos corresponden al grupo de redes neuronales clsicas donde las neuronas estn definidas previamente. Una de ellas utiliza el Feed-Forward y la otra es un modelo Elman el cual contiene un lazo recurrente al igual que el algoritmo GMDH propuesto. En la figura 8 se puede apreciar como el algoritmo GMDH con realimentacin negativa propuesto para resolver este caso de estudio tiene mayor calidad de modelado al mostrar un menor error promedio que el resto de las variantes utilizadas.

Figura 8: Comparacin aplicando diferentes modelos

neuronales al caso de estudio. Las Redes Neuronales Polinomiales (PoNN), como el algoritmo GMDH, tienen una importante diferencia respecto a los modelos cuyas neuronas estn definidas previamente y es que, sus unidades de procesamiento tienen un papel activo, debido a que el algoritmo GMDH se ejecuta dentro de la propia unidad, representando una nueva variable, que es generada por la seleccin independiente de las entradas ms importantes, necesarias para encontrar una estructura ptima (Jos Balanza Garca at all 1998). Este aspecto influye en los resultados obtenidos en la figura 8 donde se puede apreciar que el algoritmo GMDH presenta menor error ya que est optimizado en base al este criterio.

6. CONCLUSIONES. En este trabajo, una Red Neuronal Polinomial ha sido desarrollada utilizando un algoritmo GMDH modificado al cual se le adicion un lazo recurrente. Aqu se demuestra su capacidad para estimar el crecimiento celular en un proceso de fermentacin de tipo Feed-Batch. Esto permite la implementacin de un sensor virtual (Soft-Sensor) capaz de estimar, en lnea con el proceso (On-Line), la concentracin de biomasa y establecer as un control oportuno de las variables del proceso para optimizar sus resultados. La complejidad de la arquitectura en la red neuronal se incrementa gradualmente debido al clculo del lazo de realimentacin negativa, de manera que se realimenta la complejidad del sistema no lineal y por consiguiente, una identificacin estructural ms exacta del sistema no lineal pueden llevarse a cabo. El nmero de lazos de realimentacin as como las variables de entrada satisfactorias son automticamente determinadas de manera tal que se minimice el criterio RC. En una comparacin con otros mtodos neuronales de modelacin, puede

observarse un mejor rendimiento, demostrando su capacidad para ser utilizado satisfactoriamente en la modelacin de un proceso de fermentacin por lotes.

7. BIBLIOGRAFA G. Reed, J.R., A. Puhler, P. Stadler, Biotechnology,

Measuring modelling and control. VHC, 2000. 4: p. 181.

Knskoski, M., Kurkinen, Marika, von Weymarn, Niklas, Niemel, Pentti, Neubauer, Peter, Juuso, Esko, Eerikinen, Tero, Turunen, Seppo, Aho, Sirkka & Suhonen, Pirkko, Process analytical technology (PAT) needs and applications in the

bioprocess industry. VTT Technical Research Centre of Finland, 2006. 60: p. 99.

Royce, P.N., A discussion of recent developments in fermentation monitoring and control from a

practical perspective. Critical reviews in biotechnology, 1993. 13: p. 117-149.

Jenzsch, M., Simutis, R., Lbbert, A., Optimization and Control of Industrial Microbial Cultivation

Processes. Eng. Life Sci., 2006. 6(2): p. 117-124.

Passoni, L.I., Modelos en Bioingeniera: Caracterizacin de Imgenes Estticas y

Dinmicas, in Facultad de Ingeniera. 2005, Universidad Nacional de Mar del Plata.

Ral R. Leal Ascencio, P.B.y.P.A.P., Instrumentacion de un Proceso de Fermentacion

a Traves de Redes Neuronales Artificiales. 2002. Leiva, G.A. Redes Neuronales como Herramienta

para la Automatizacin de Sistemas Complejos. in EVIC. 2006.

Miroslav norek, P.K., Inductive Modelling World Wide the State of the Art. Dept. of Computer Science and Engineering, Karlovo nam., 2006.

Ivakhnenko, A.G., Polynomial theory of complex systems. IEEE Transactions on Systems, Man, and Cybernetics, 1971. SMC-1(1).

Tadashi Kondo, Junji Ueno, Revised GMDH-Type Neural Network Algorithm With a Feedback

Loop Identifying Sigmoid Function Neural

Network. International Journal of Innovative Computing, Information and Control, 2006. Volume 2, Number 5: p. 985996.

Kordik., P., Fully Automated Knowledge Extraction using Group of Adaptive Models Evolution., in Dep. of Comp. Sci. and Computers, FEE. 2006, CTU: Prague.

Mutasem Hiassat, N.M., An evolutionary method for term selection in the Group Method of Data

Handling. Automatic Control & Systems Engineering, University of Sheffield, 2004: p. 11-14.

0.0034764

0.0018616 0.0017965

0.0012656

0 0.0005

0.001 0.0015

0.002 0.0025

0.003 0.0035

0.004

FeedForward Elman GMDH Feed-back GMDH-Type

mse

Ivakhnenko A. G., K.V.V., Tetko I. V., Luik A.I., Ivakhnenko G.A., Ivakhnenko N.A., Self-Organization of Neural networks with Active

Neurons for Bioactivity of Chemical Compounds

Forecasting by Analogues Complexing GMDH

Algorithm., in Poster for the ICANN'99 Conference. 1999.

A.G. Ivakhnenko, D.W., G.A. Ivakhnenko. Inductive Sorting-Out GMDH Algorithms with Polynomial

Complexity for Active Neurons of Neural

Network. 1998 cited; Available from: http://come.to/GMDH.

A.G. Ivakhnenko, G.A.I., The Review of Problems Solvable by Algorithms of the Group Method of

Data Handling (GMDH). Pattern Recognition and Image Analysis, 1995. 5(4): p. 527-535.

Kondo, T., A. S. Pandya and T. Gilbar, GMDH-type neural network algorithm with sigmoid

functions. International Journal of Knowledge-Based Intelligent Engineering Systems, 2003. 7(4): p. 198-205.

J.Q. Yuan a, P.A.V., Rolling learning-prediction of product formation in bioprocesses. Journal of Biotechnology, 1999. 69(Elsevier Science B.V.): p. 4762.

Kondo, T., Revised GMDH-type neural networks with radial basis functions and their application

to medical image recognition of stomach. Systems Analysis Modeling Simulation, 2003. 43(10): p. 1363-1376.

B. McNeil, L.M.H., Fermentation a Practical Approach. 1ra ed. The Practical Approach Series, ed. D.B.D.H. Dr. D. Rickwood. 1990, Oxford: Oxford University Press. 223.

Ramsey, A., Assessment of the modeling abilities of Neural networks, in Massachusetts Institute of Technology. 1994, Massachusetts: US. p. 95.

S. SP. PAPPAS, L.E., Comparison of Artificial Intelligence Methods for Predicting the Time

Series Problem. Proceedings of the 6th WSEAS International Conference on Simulation, Modelling and Optimization, 2006: p. 22-24.

Jos Balanza Garca, J.M.C.I., Juan Lpez Coronado, Antonio Alvarez Cavanillas, Mariano Luna Moreno, Estudio y Desarrollo de Sensores Software Basados en Sistemas Neuro-Difusos.

Aplicacin en Procesos Petroqumicos. 1998.