Le sugiero que utilice ez sql para facilitar la consulta de la base de datos:http://justinvincent.com/ezsql
Y jquery también:http://jquery.com/
Y aquí hay un tutorial que muestra cómo realizar llamadas ajax en jquery:http://net.tutsplus.com/tutorials/javascript-ajax/5-ways-to-make-ajax-calls-with-jquery/
Desde su código, puedo ver que está tratando de consultar la base de datos usando una variable $_GET. Y supongo que el nombre de su campo de búsqueda es 'q'. Y mostrando los resultados dinámicamente usando javascript.
HTML:
<input type="text" id="q" name="q"/>
<div id="your_div"></div><!--this is where your html table will be loaded dynamically as you type a value on the textbox-->
JAVASCRIPT:
<script src="jquery.js"></script>
<script>
$(function(){
$('#q').keyup(function(){
var query = $.trim($(this).val());
$('#your_div').load('phpfile.php', {'q' : query});
});
});
</script>
PHP:
//database configuration here
$q = mysql_real_escape_string($_POST['q']);
//html table here