MySQL dropped connections auf High-Traffic-System

[tompal]

Hi Leute,

der tompal hat mal wieder ein Problem:
Ich habe mehrere High-Traffic-Server (etwa 30TB Traffic auf 10 Server verteilt), welche eine ziemlich große Community hosten.
Für die Community wird der Standard LAMP-Stack verwendet, also Linux/Apache/MySQL/PHP. Alle Server sind über einen Switch miteinander verbunden (LAN und WAN durch VLANs getrennt, jeder Server hat ein Bein in jedem Netz), Datenbankserver und Webserver laufen natürlich auf unterschiedlichen Hosts.

Nun habe ich auf mehreren Servern das Problem, dass häufig MySQL-Verbindungen gedropped werden (zu Zeiten auf denen relativ viele Besucher auf den Seiten sind). Das Connectionlimit von MySQL ist definitiv kein Problem, dieses Limit wird erst gar nicht erreicht, eine Firewall o.ä. blockiert as far as i can see auch nichts. Die Server sind auch nicht ausgereizt, die Load ist eigentlich total niedrig.
In MySQL sieht das bei einem "show global status" wie folgt aus:

srv1 (DB-Server):

mysql> show global status like '%abort%';
+------------------+--------+
| Variable_name | Value |
+------------------+--------+
| Aborted_clients | 1273 |
| Aborted_connects | 250914 |
+------------------+--------+
2 rows in set (0.00 sec)

srv2 (Webserver):

mysql> show global status like '%abort%';
+------------------+-------+
| Variable_name | Value |
+------------------+-------+
| Aborted_clients | 0 |
| Aborted_connects | 50584 |
+------------------+-------+
2 rows in set (0.00 sec)

Kernel ist schon relativ gut getuned mMn, folgende Settings hab ich schon gesetzt:

• (/proc/sys/net/netfilter/)nf_conntrack_max
• (/proc/sys/net/ipv4/)tcp_fin_timeout
• (/proc/sys/net/ipv4/tcp_tw_reuse
• (/proc/sys/kernel/)shmall
• (/proc/sys/kernel/)shmmax
• (/proc/sys/net/core)somaxconn
• (/proc/sys/net/ipv4/)tcp_max_tw_buckets
• (/proc/sys/net/ipv4/)tcp_max_syn_backlog
• (/proc/sys/net/core/)netdev_max_backlog

Trotzdem besteht das Problem noch. Auf dem Switch und den Netzwerkkarten sind keine Errors zu finden... Fällt jemandem von euch etwas ein, an was dies noch liegen könnte?

Viele Grüße,

Thomas

 

[Joe User]

Die Ausgaben von mysqltuner.pl und tuning-primer.sh sowie die my.cnf der beiden Server bitte.

 

[tompal]

Die Ausgaben von mysqltuner.pl und tuning-primer.sh sowie die my.cnf der beiden Server bitte.

Klaro, hier :

mysql-tuning.sh:

-- MYSQL PERFORMANCE TUNING PRIMER --
- By: Matthew Montgomery -

MySQL Version 5.1.54-community-log x86_64

Uptime = 17 days 1 hrs 7 min 10 sec
Avg. qps = 3843
Total Questions = 5661063202
Threads Connected = 27

Server has been running for over 48hrs.
It should be safe to follow these recommendations

To find out more information on how each of these
runtime variables effects performance visit:
http://dev.mysql.com/doc/refman/5.1/en/server-system-variables.html
Visit http://www.mysql.com/products/enterprise/advisors.html
for info about MySQL's Enterprise Monitoring and Advisory Service

SLOW QUERIES
The slow query log is enabled.
Current long_query_time = 1.000000 sec.
You have 1368510 out of 5661063405 that take longer than 1.000000 sec. to complete
Your long_query_time seems to be fine

BINARY UPDATE LOG
The binary update log is NOT enabled.
You will not be able to do point in time recovery
See http://dev.mysql.com/doc/refman/5.1/en/point-in-time-recovery.html

WORKER THREADS
Current thread_cache_size = 2048
Current threads_cached = 2024
Current threads_per_sec = 0
Historic threads_per_sec = 0
Your thread_cache_size is fine

MAX CONNECTIONS
Current max_connections = 3000
Current threads_connected = 43
Historic max_used_connections = 3001
The number of used connections is 100% of the configured maximum.
You should raise max_connections

No InnoDB Support Enabled!

MEMORY USAGE
Max Memory Ever Allocated : 34.03 G
Configured Max Per-thread Buffers : 30.02 G
Configured Max Global Buffers : 4.00 G
Configured Max Memory Limit : 34.02 G
Physical Memory : 47.04 G
Max memory limit seem to be within acceptable norms

KEY BUFFER
Current MyISAM index space = 36.97 G
Current key_buffer_size = 4.00 G
Key cache miss rate is 1 : 871
Key buffer free ratio = 0 %
You could increase key_buffer_size
It is safe to raise this up to 1/4 of total system memory;
assuming this is a dedicated database server.

QUERY CACHE
Query cache is supported but not enabled
Perhaps you should set the query_cache_size

SORT OPERATIONS
Current sort_buffer_size = 6 M
Current read_rnd_buffer_size = 512 K
Sort buffer seems to be fine

JOINS
Current join_buffer_size = 516.00 K
You have had 2554098 queries where a join could not use an index properly
You should enable "log-queries-not-using-indexes"
Then look for non indexed joins in the slow query log.
If you are unable to optimize your queries you may want to increase your
join_buffer_size to accommodate larger joins in one pass.

Note! This script will still suggest raising the join_buffer_size when
ANY joins not using indexes are found.

OPEN FILES LIMIT
Current open_files_limit = 31810 files
The open_files_limit should typically be set to at least 2x-3x
that of table_cache if you have heavy MyISAM usage.
Your open_files_limit value seems to be fine

TABLE CACHE
Current table_open_cache = 14400 tables
Current table_definition_cache = 256 tables
You have a total of 1679 tables
You have 14400 open tables.
Current table_cache hit rate is 0%
, while 100% of your table cache is in use
You should probably increase your table_cache
You should probably increase your table_definition_cache value.

TEMP TABLES
Current max_heap_table_size = 256 M
Current tmp_table_size = 128 M
Of 355934802 temp tables, 8% were created on disk
Created disk tmp tables ratio seems fine

TABLE SCANS
Current read_buffer_size = 3 M
Current table scan ratio = 1636 : 1
read_buffer_size seems to be fine

TABLE LOCKING
Current Lock Wait ratio = 1 : 16
You may benefit from selective use of InnoDB.
If you have long running SELECT's against MyISAM tables and perform
frequent updates consider setting 'low_priority_updates=1'

./mysqltuner.pl

>> MySQLTuner 1.2.0 - Major Hayden <major@mhtx.net>
>> Bug reports, feature requests, and downloads at http://mysqltuner.com/
>> Run with '--help' for additional options and output filtering

-------- General Statistics --------------------------------------------------
[--] Skipped version check for MySQLTuner script
[OK] Currently running supported MySQL version 5.1.54-community-log
[OK] Operating on 64-bit architecture

-------- Storage Engine Statistics -------------------------------------------
[--] Status: +Archive -BDB -Federated -InnoDB -ISAM -NDBCluster
[--] Data in MyISAM tables: 44G (Tables: 1565)
[--] Data in MEMORY tables: 125M (Tables: 91)
[!!] Total fragmented tables: 297

-------- Security Recommendations -------------------------------------------
[!!] User 'root@127.0.0.1' has no password set.
[!!] User 'root@srv1' has no password set.

-------- Performance Metrics -------------------------------------------------
[--] Up for: 17d 1h 9m 30s (5B q [3K qps], 280M conn, TX: 3070B, RX: 496B)
[--] Reads / Writes: 82% / 18%
[--] Total buffers: 4.1G global + 10.2M per thread (3000 max threads)
[OK] Maximum possible memory usage: 34.2G (72% of installed RAM)
[OK] Slow queries: 0% (1M/5B)
[!!] Highest connection usage: 100% (3001/3000)
[OK] Key buffer size / total MyISAM indexes: 4.0G/37.0G
[OK] Key buffer hit rate: 99.9% (325B cached / 373M reads)
[!!] Query cache is disabled
[OK] Sorts requiring temporary tables: 0% (118K temp sorts / 383M sorts)
[!!] Joins performed without indexes: 2554377
[OK] Temporary tables created on disk: 8% (31M on disk / 387M total)
[OK] Thread cache hit rate: 99% (621K created / 280M connections)
[!!] Table cache hit rate: 0% (14K open / 37M opened)
[OK] Open file limit used: 48% (15K/31K)
[!!] Table locks acquired immediately: 94%

-------- Recommendations -----------------------------------------------------
General recommendations:
Run OPTIMIZE TABLE to defragment tables for better performance
Reduce or eliminate persistent connections to reduce connection usage
Adjust your join queries to always utilize indexes
Increase table_cache gradually to avoid file descriptor limits
Optimize queries and/or use InnoDB to reduce lock wait
Variables to adjust:
max_connections (> 3000)
wait_timeout (< 250)
interactive_timeout (< 250)
query_cache_size (>= 8M)
join_buffer_size (> 512.0K, or always use indexes with joins)
table_cache (> 14400)

MySQL-Config (ich denke die mysqld-Einstellungen reichen dir, wenn nicht Bescheid sagen):

[mysqld]
port = 3306
socket = /var/lib/mysql/mysql.sock
skip-locking
skip-name-resolve
skip-innodb
log-slow-queries
long_query_time = 20
concurrent_insert=2
back_log=2000
max_connections=3000
max_connect_errors=20000
max_heap_table_size = 256M
key_buffer = 4G
max_allowed_packet = 1M
table_cache = 14400
tmp_table_size = 128M
sort_buffer_size = 6M
net_buffer_length = 8K
join_buffer_size = 512K
read_buffer_size = 3M
read_rnd_buffer_size = 512K
myisam_sort_buffer_size = 1024M
thread_cache = 2048
query_cache_type = 0
query_cache_size = 0M
wait_timeout=250
interactive_timeout=250
connect_timeout = 20
log-slow-queries = /tmp/slowqueries.log
long_query_time = 1
log-long-format

 

[Joe User]

Du solltest ernsthaft über InnoDB nachdenken und ein Update auf 5.5 wäre ebenfalls anzuraten.

Unabhängig davon: Du hast da jede Menge JOINs die keinen INDEX nutzen und auf der anderen Seite einen sehr grossen INDEX-Space der nicht mehr in den Key-Buffer passt. Die vorhandenen INDEXe sollten daher dringend auf Notwendigkeit geprüft und die fehlenden INDEXe angelegt werden. Daher stammen vermutlich auch die LOCKs welche dann die Connections blocken.

Folgende my.cnf für MySQL 5.5 kommt ohne jegliche Gewähr, sollte aber eine minimale Verbesserung bringen (für MySQL 5.1 müssen eventuell ein paar Optionen umbenannt oder gar gestrichen werden). Den InnoDB-Teil habe ich für einen kompletten Wechsel von MyISAM zu InnoDB ausgelegt, sofern Du umsteigen solltest, andernfalls kannst Du ihn komplett streichen. Pfade und Co bitte selbst anpassen:

[mysqld]
user                            = mysql
port                            = 3306
bind-address                    = 127.0.0.1
basedir                         = /usr/local
datadir                         = /var/db/mysql
tmpdir                          = /var/tmp
slave-load-tmpdir               = /var/tmp
log-bin                         = /var/db/mysql/mysql-bin
relay-log                       = /var/db/mysql/relay.log
relay-log-index                 = /var/db/mysql/relay.index
relay-log-info-file             = /var/db/mysql/relay.info
master-info-file                = /var/db/mysql/master.info
#master-host                     = <hostname>
#master-user                     = <username>
#master-password                 = <password>
#master-port                     = 3306
#auto_increment_increment        = 10
#auto_increment_offset           = 1
server-id                       = 1
back_log                        = 2000
sync_binlog                     = 1
binlog_cache_size               = 4M
binlog_stmt_cache_size          = 4M
max_binlog_size                 = 1G
binlog-format                   = MIXED
expire_logs_days                = 7
slow-query-log                  = 1
slow-query-log-file             = /var/db/mysql/slow-query.log
slave_compressed_protocol       = 1
safe-user-create                = 1
delay-key-write                 = ALL
myisam-recover                  = FORCE,BACKUP
key_buffer_size                 = 4G
join_buffer_size                = 4M
sort_buffer_size                = 4M
read_buffer_size                = 1M
read_rnd_buffer_size            = 4M
bulk_insert_buffer_size         = 8M
myisam_sort_buffer_size         = 8M
max_allowed_packet              = 32M
max_heap_table_size             = 256M
tmp_table_size                  = 128M
table_cache                     = 16384
table_open_cache                = 16384
table_definition_cache          = 16384
open_files_limit                = 32768
net_retry_count                 = 16384
query_cache_type                = 1
query_cache_size                = 64M
query_cache_limit               = 2M
query_cache_min_res_unit        = 4K
thread_cache_size               = 2000
max_connections                 = 3000
ft_max_word_len                 = 20
ft_min_word_len                 = 3
min-examined-row-limit          = 1000
long_query_time                 = 1
local-infile                    = 0
log-warnings                    = 2
log-slave-updates
log-queries-not-using-indexes
skip-external-locking
skip-name-resolve
skip-innodb
innodb_thread_concurrency       = 8
innodb_buffer_pool_size         = 40G
innodb_buffer_pool_instances    = 8
innodb_additional_mem_pool_size = 128M
innodb_data_home_dir            = /var/db/mysql
innodb_log_group_home_dir       = /var/db/mysql
innodb_data_file_path           = ibdata1:8000M;ibdata2:8000M;ibdata3:8000M;ibdata4:8000M;ibdata5:8000M;ibdata6:8000M;ibdata7:8000M;ibdata8:8000M;ibdata9:1000M:autoextend
innodb_flush_method             = O_DIRECT
innodb_log_file_size            = 256M
innodb_log_buffer_size          = 32M
innodb_log_files_in_group       = 2
innodb_flush_log_at_trx_commit  = 2
innodb_max_dirty_pages_pct      = 90
innodb_lock_wait_timeout        = 120
innodb_file_per_table           = 1
innodb_purge_threads            = 1
innodb_strict_mode              = 1
innodb_old_blocks_time          = 1000
innodb_stats_on_metadata        = 0
innodb_write_io_threads         = 8
innodb_read_io_threads          = 8
innodb_io_capacity              = 500

Am Besten wäre zunächst ein Real-World-Lasttest auf Deinem Testsystem, da die Anpassungen nicht ganz unerheblich sind. Die Dokumentation und das MySQLPerformanceBlog helfen beim Beurteilen meiner Vorschläge und deren potentiellen Auswirkungen.

HTH

 

[tompal]

Cool, danke dir! Werd den MySQL-Daemon mal entsprechend tunen und dann nochmal Bescheid geben
Auf die Queries hab ich leider keinen direkten Einfluss, werd ich aber auch weitergeben...

 

[tompal]

Mit Joes Einstellungen hatte ich schwere Probleme (das Connectionlimit wurde mit wenigen Benutzern ausgereizt, sah irgendwie nach persistenten Verbindungen aus, obwohl diese im Code nicht verwendet werden), habe jetzt mal nur max_allowed_packet auf 16M und read_rnd_buffer_size auf 4M gesetzt.
Mir diesen beiden vergrößerten Werten konnte ich schon eine leichte Verbesserung erzielen:

srv1 (DB-Server):

mysql> show global status like '%abort%';
+------------------+-------+
| Variable_name | Value |
+------------------+-------+
| Aborted_clients | 503 |
| Aborted_connects | 22367 |
+------------------+-------+
2 rows in set (0.00 sec)

Mit kleineren Buffern hätte ich schon etwa 200000 Aborted_connects erhalten.


Die Query, welche JOIN ohne INDEX macht ist nur eine Tabelle mit maximal 10 Datensätzen. Kann das trotzdem mein im ersten Post enthaltenes Problem verursachen?

 

[d4f]

Die Query, welche JOIN ohne INDEX macht ist nur eine Tabelle mit maximal 10 Datensätzen.

Verschiedene Queries erzwingen festplatten-basierte Tabellen. Laut Ausgabe sind es "nur" 8% insgesamt aber diese können erhebliche Ausbremsungen verursachen. Falls alle deine Tabellen recht klein sind kannst du versuchen diese in ein tmpfs zu legen.

Historic max_used_connections = 3001

Wenn das wie du sagst ohne persistente Verbindungen ist dann könnte es sein dass dein Server schlicht am Limit ist.

Was sagt deine IO-Last wenn das System unter Volldampf ist.
Die Load allein sagt nur aus wieviele Prozesse _ungefährt_ gleichzeitig liefen (Linux implementiert aus Performance-Gründen nur Messungen, nicht den realen Wert) Dies allein sagt noch nicht aus ob ein System unter Last steht.

 

[Joe User]

OK, dann hier nochmal eine überarbeitete my.cnf ohne Schnickschnack:

[mysqld]
user                            = mysql
port                            = 3306
socket                          = /var/lib/mysql/mysql.sock
back_log                        = 2000
concurrent_insert               = 2
key_buffer_size                 = 4G
join_buffer_size                = 4M
sort_buffer_size                = 4M
read_buffer_size                = 1M
read_rnd_buffer_size            = 4M
bulk_insert_buffer_size         = 8M
myisam_sort_buffer_size         = 8M
max_allowed_packet              = 32M
max_heap_table_size             = 256M
tmp_table_size                  = 128M
table_cache                     = 16384
table_open_cache                = 16384
table_definition_cache          = 16384
open_files_limit                = 65536
query_cache_type                = 1
query_cache_size                = 64M
query_cache_limit               = 2M
query_cache_min_res_unit        = 4K
thread_cache_size               = 2000
max_connections                 = 3000
max_connect_errors              = 20000
long_query_time                 = 1
log-slow-queries                = /tmp/slowqueries.log
log-long-format
skip-external-locking
skip-name-resolve
skip-locking
skip-innodb

Diese bitte mindestens 24 Stunden laufen lassen und dann nochmal mysqltuner und tuningprimer ausführen und die Ausgaben posten, danke.


BTW: Die Ursache für die ständig kaputtgehenden Tabellen solltest Du dringend finden, denn das ist absolut nicht normal.

 

[Joe User]

Verschiedene Queries erzwingen festplatten-basierte Tabellen. Laut Ausgabe sind es "nur" 8% insgesamt aber diese können erhebliche Ausbremsungen verursachen. Falls alle deine Tabellen recht klein sind kannst du versuchen diese in ein tmpfs zu legen.

44GB Daten plus 37GB Index bei nur 64GB RAM - Wo soll da noch Luft ein tmpfs sein?
Zumal Du den Datenverlust bei Stromausfall, Reboot, kaputtem RAM-Riegel, etc verschweigst.
Laut Ausgabe werden durchschnittlich 2 Temp-Tables pro Sekunde on Disk erzeugt. Mag nicht nach viel klingen, aber es können ja auch ein Peaks von 600 Temp-Tables alle fünf Minuten sein, was dann die Disks auslasten kann und wo auch tmpfs/RAM-Disks nicht mehr viel helfen.

Wenn das wie du sagst ohne persistente Verbindungen ist dann könnte es sein dass dein Server schlicht am Limit ist.

Ein Upgrade auf die aktuelle MySQL 5.5/5.6 verschafft ihm wieder etwas Luft, aber er möchte ja bei der unperformanteren MySQL 5.1 bleiben.
Langfristig ist wohl auch ein anderes Blech fällig, aber das muss nicht jetzt sein.

 

[d4f]

Zumal Du den Datenverlust bei Stromausfall, Reboot, kaputtem RAM-Riegel, etc verschweigst.

Wenn die temp. Tabellen nur für JOIN usw verwendet werden gibt es keinen Datenverlust. Nur das Query kann nicht beantwortet werden... aber das würde es eh nicht wenn Strom weg sit.

können ja auch ein Peaks von 600 Temp-Tables alle fünf Minuten sein, was dann die Disks auslasten kann

Nicht wenn die Daten bereits im Disk-Cache liegen. Bei default-Mountoptionen erzwingt er dadurch Overhead durch Schreiben auch wenn die Dateien nur Sekundenbruchteile existieren. Ein TMPFS oder zumindest write-delay (jaja... Risiko bei Stromausfall) verbessert die Performance.
(Übrigens wenn man schon dran ist, kontrollieren dass nicht etwa atime und/oder diratime aktiv ist, was meist Default ist)

Langfristig ist wohl auch ein anderes Blech fällig, aber das muss nicht jetzt sein.

Wenn vermutlich zumindest einmal 3001 Verbindungen auf waren, wovon vermutlich die meisten auf das Ausführen des Query oder die Resultat-Übermittlung warten?

 

[Joe User]

Ich glaube Du hast nicht ganz verstanden wann und wie MySQL Temp-Tables on Disk erstellt. Desweiteren hat der OP keinen RAM mehr für tmpfs frei, oder soll er swappen oder gar den OOM killen lassen?

 

[d4f]

Ich glaube Du hast nicht ganz verstanden wann und wie MySQL Temp-Tables on Disk erstellt.

Doch ich denke schon.
Explizit angelegte temporäre Tabellen sind session-persistent, d.h. nach dem Disconnect sind sie weg. Ich wage also zu behaupten dass es keinen Datenverlust geben kann wenn die Tabelle im RAM liegt. Mysql legt es eh standardmässig in /tmp ab welcher von den meisten Distros beim Boot leergefegt wird.
Hier ist übrigens beschrieben wann Mysql disk-based Tables verwendet:
http://dev.mysql.com/doc/refman/5.0/en/internal-temporary-tables.html
MariaDB verwendet übrigens öfter In-RAM Tabellen.

Desweiteren hat der OP keinen RAM mehr für tmpfs frei, oder soll er swappen oder gar den OOM killen lassen?

Und schon kommen wir wieder darauf zurück dass die Machine am Limit ist.
Wenn er nicht mal mehr die paar MB für temporäre Tabellen frei hat (laut Aussage des TE sind es nur wenige Datensätze) dann ist das System eh heillos überfordert.

 

[Joe User]

Und schon kommen wir wieder darauf zurück dass die Machine am Limit ist.

Sie ist nur am Limit, weil der OP nicht InnoDB und eine alte MySQL-Version verwendet.

Wenn er nicht mal mehr die paar MB für temporäre Tabellen frei hat (laut Aussage des TE sind es nur wenige Datensätze) dann ist das System eh heillos überfordert.

tmpfs ist in der Grösse beschränkt und Distros die /tmp per Default als tmpfs anlegen sind genau aus diesem Grund broken.
Woher willst Du also wissen, dass zu jeder Zeit alle on-disk Temp-Tables ins tmpfs passen? Was passiert wenn das tmpfs plötzlich voll ist und MySQL keine Temp-Table mehr schreiben kann aber muss? Last but not least, es schreiben auch noch etliche andere Apps nach /tmp, kalkulierbar? IMHO nein.


Naja egal, der OP kann entweder ein paar Kilo-Euro für überdimensionierte, stromfressendere und derzeit unnötige Hardware verbrennen, oder sein aktuelles Setup optimieren. Seine Entscheidung.


Ich bin raus, bevor es Off-Topic wird...

 

[d4f]

Woher willst Du also wissen, dass zu jeder Zeit alle on-disk Temp-Tables ins tmpfs passen?

Siehe mein erster Post. _falls_

es schreiben auch noch etliche andere Apps nach /tmp

Mysql kann man auf andere Ordner umbiegen und das somit verhindern

kalkulierbar? IMHO nein.

Ack, ne SSD oder zumindest Partition mit Write-Delay wäre optimaler.

der OP kann entweder ein paar Kilo-Euro für überdimensionierte, stromfressendere und derzeit unnötige Hardware verbrennen, oder sein aktuelles Setup optimieren.

Paar Tausend Euronen halte ich für übertrieben - aber mit deinen vorgeschlagenen Verbesserungen wird es von "am Limite" zu "kurz vorm Limit". Da es sich um eine Community handelt und das Problem akut ist wird sie wohl noch weiter wachsen - d.h. das gleiche Problem wird sich in Kürze nochmal stellen.

Mit SQL Proxies kann man, je nach Software, Read-Replikation recht transparent durchsetzen wodurch man dann die Last verteilen kann und der Bedarf an überteurerter Hardware sinkt.

weil der OP nicht InnoDB und eine alte MySQL-Version verwendet.

Der Wechsel auf InnoDB ist, zumal bei Produktivseiten, nicht unbedingt unkompliziert auch wenn es viele Vorteile bringt.

 

[Joe User]

<snip>tmpfs und RAM-Disks für DBMS sind Müll</snip>

Der Wechsel auf InnoDB ist, zumal bei Produktivseiten, nicht unbedingt unkompliziert auch wenn es viele Vorteile bringt.

Alleine der Wechsel von Table-Locks zu Row-Locks lohnt den Aufwand und drückt die Waits der meisten Queries enorm und dies wiederum vermeidet etliche Connection-Aborts.
Schnellere Queries bekommt er kostenlos obendrauf, was wiederum die Waits senkt.
Darüberhinaus wird die Disk-IO durch 30% weniger Files deutlich entlastet, was wiederum...
Das Spielchen könnte man noch fortführen.

Alles in Allem würde ich (seine suboptimale my.cnf einbezogen) glatt behaupten, dass er mit dem Wechsel auf MySQL 5.5.28 und InnoDB-only mindestens 20% Performancegewinn rausholen kann. Dazu eine spürbar geringere Belastung von RAM und Disk.
Ob ich richtig liege, werden wir aber nie erfahren.

Wenn neue Hardware, dann SAS/SSD für datadir und tmpdir (Hinweise der renomierten DBAs zu SSDs beachten)...

 

[tompal]

OK, dann hier nochmal eine überarbeitete my.cnf ohne Schnickschnack:

[mysqld]
user                            = mysql
port                            = 3306
socket                          = /var/lib/mysql/mysql.sock
back_log                        = 2000
concurrent_insert               = 2
key_buffer_size                 = 4G
join_buffer_size                = 4M
sort_buffer_size                = 4M
read_buffer_size                = 1M
read_rnd_buffer_size            = 4M
bulk_insert_buffer_size         = 8M
myisam_sort_buffer_size         = 8M
max_allowed_packet              = 32M
max_heap_table_size             = 256M
tmp_table_size                  = 128M
table_cache                     = 16384
table_open_cache                = 16384
table_definition_cache          = 16384
open_files_limit                = 65536
query_cache_type                = 1
query_cache_size                = 64M
query_cache_limit               = 2M
query_cache_min_res_unit        = 4K
thread_cache_size               = 2000
max_connections                 = 3000
max_connect_errors              = 20000
long_query_time                 = 1
log-slow-queries                = /tmp/slowqueries.log
log-long-format
skip-external-locking
skip-name-resolve
skip-locking
skip-innodb

Diese bitte mindestens 24 Stunden laufen lassen und dann nochmal mysqltuner und tuningprimer ausführen und die Ausgaben posten, danke.


BTW: Die Ursache für die ständig kaputtgehenden Tabellen solltest Du dringend finden, denn das ist absolut nicht normal.

Hi Joe,

dankeschön, werde ich machen und mich dann nochmals melden.
Eine RAM-Disk kann ich mir wie schon gesagt aufgrund des fehlenden RAMs nicht leisten, eine SSD passt auch nicht mehr ins System (alle 24 Slots des Servers sind schon mit 15K Seagate Savvios voll). Stromausfälle wären jetzt nicht so das Problem, dort stehen Systeme die seit Auslieferung ein paar Jahre durchliefen.

Alles in Allem würde ich (seine suboptimale my.cnf einbezogen) glatt behaupten, dass er mit dem Wechsel auf MySQL 5.5.28 und InnoDB-only mindestens 20% Performancegewinn rausholen kann. Dazu eine spürbar geringere Belastung von RAM und Disk.
Ob ich richtig liege, werden wir aber nie erfahren.

Mit einem Wechsel auf InnoDB siehts tendenziell eher schlecht aus, ein Update des MySQL-Servers klär ich noch ab, ist aber wahrscheinlicher... Also eventuell erfahrt ihr doch ein wenig was

Vielen Dank nochmal @ Joe!

Bis denne,

Thomas