QNAP NAS über iSCSI extrem langsam an VMware VMs

[MiLLHouSe 15]

Hallo,

 

ich habe seit dem Wochenende unser QNAP TS-859U+ NAS über iSCSI an unsere VMs angebunden. Davor war das Gerät noch direkt als Netzwerkfreigabe vorhanden, was aber gerade bei Berechtigungen immer wieder Probleme bereitet hat.

 

Also über iSCSI angebunden und eigentlich ging ich jetzt davon aus, dass alles gut ist/wird... Leider ist dem nicht so.

 

Das NAS bzw. der Netzwerkspeicher ist seitdem extrem langsam. Ich kopiere jetzt gerade z.B. knapp 8000 Dateien mit ca. 11 GB und warte jetzt schon ne halbe Stunde und bin noch immer nicht fertig.

Seltsamerweise bricht die Netzwerkverbindung immer wieder zusammen und hat teilweise mehrere Sekunden lang Aussetzer beim Kopieren. Ein Ping geht aber durch, das heißt, das NAS selbst ist weiterhin erreichbar, aber der Datenspeicher oder was weiß ich was leider nicht.

 

Ich habe heute morgen auch mal eine 5 GB große Datei vom Server auf meinen Rechner kopiert. 20-35 MB/s hatte ich, auch mit ständigen Unterbrechungen beim Kopieren. Kopiere ich das auf ein kleines NAS (TS-469 Pro) von QNAP direkt (nicht per iSCSI angebunden) habe ich (wie vorher auch) ca. 70-90 MB/s Übertragungsrate.

 

Das NAS ist per Port Trunking mit zwei Netzwerkkarten am Switch und dort ist auch eingestellt, dass eine Kanalbündelung stattfinden soll. Auch wenn ich das Ding mit einer Leitung anschließe, bin ich nicht schneller.

 

Wenn ich die gleichen Daten wie oben auf dieses zweite NAS kopiere, bin ich in knapp 7 Minuten damit fertig. Dann bricht auch keine Netzwerkverbindung ein, alles ist so, wie gewohnt und wie es sein soll...

 

Ich weiß jetzt leider nicht mehr so recht weiter. Eine Möglichkeit wäre noch, das NAS über vLAN anzubinden, aber ob das wirklich so viel ausmacht, wage ich fast zu bezweifeln. Zudem möchte ich den Speicher weiteren Servern zuweisen, was mir aber mittlerweile Sorgenfalten bereitet, wenn ich das jetzt schon so erlebe.

 

Kann es sein, dass das QNAP einfach nicht die Leistung bringt, wenn es per iSCSI angebunden ist, auch wenn QNAP sagt, dass es problemlos geht? Kann aber doch auch nicht sein, dass ich jetzt ne EMC oder sonst was kaufen muss, nur um ne gute Anbindung meines Datenspeichers zu bekommen oder? Mein Chef springt im Dreieck, wenn ich ihm sage, dass wir mal irgendwas um die 8000 € aufwärts ausgeben müssen, damit das jetzt klappt.......

 

Wenn also noch jemand einen Tipp hat, wäre ich echt dankbar!

 

Grüße

Alex

[XP-Fan 217]

Hi,

 

um welche VM Lösung handelt es sich überhaupt ? Version 4.x, 5.x ?

 

So als Anhalt mal diese zwei Links für VMWare, die sollten dir weiterhelfen:

 

http://files.qnap.com/news/pressresource/product/How_to_set_up_QNAP_NAS_as_a_datastore_via_iSCSI_for_VMware_ESX_4.0_or_above.pdf

 

http://www.qnap.com/de/?sn=2030

[MiLLHouSe 15]

ESXi 5.x ...

 

Danke für die Links, aber das ist alles soweit klar und das NAS ist auch passend eingerichtet und auch VMware passt soweit von den Einstellungen.

 

Aber wenn ich es mir so recht anschaue, befürchte ich ja fast, dass das NAS lediglich 4.x sauber unterstützt. Oder ist das Datenblatt von nem Zeitpunkt, wo's noch kein ESXi 5.x gab!? Weiß nicht, ob die Firmware alleine ausreicht, wenn man die immer schön aktuell hält.

Muss ich wohl auch mal bei QNAP selbst nachfragen.

 

Alex

[Dukel 454]

Ich würde versuchen den ESXi per NFS anzubinden. Evtl. ist Block Device auf dem NAS Langsamer als File Devices.

[NeMiX 76]

Setzt du Jumboframes ein? Evtl. auf ESXi Seite?

Wie ist der ESXi Host angebunden. Trunking bei iSCSI bereitet große Probleme wenn es nicht vernünftig eingerichtet ist.

Vor allem da dir anscheinend andauernd der Datastore wegfliegt sieht es nach JumboFrame Problemen aus.

 

Mach erst mal ein Basic Setup.

QNAP per Kabel direkt an den Server und dann teste mal.

[MiLLHouSe 15]

Guten Morgen,

 

ich versteh momentan gar nix mehr. Habe jetzt an eine andere VMware ein kleines QNAP NAS angebunden und ich muss sagen, so gefällt mir das viel besser. Das kleine Gerät steht in einem anderen Gebäude und ich habe einen deutlich längeren Übertragungsweg der Daten und trotzdem waren 7 GB innerhalb kürzester Zeit übertragen.

 

Also ist das Problem wohl eher am großen NAS zu suchen, bleibt nur noch die Frage wo.

 

@NeMiX

JumboFrames sind autom. aktiv, kann ich beim NAS auch gar nicht ganz ausschalten, habe aber die Standardeinstellung von 1500 gelassen.

Auch beim kleinen NAS habe ich die Standardeinstellungen gelassen und meine 7 GB in weniger als 5 Minuten übertragen.

Umgekehrt habe ich beim Kopieren vom kl. NAS auf meine Festplatte eine Übertragsungsrate von über 100 MB/s, von der ich beim großen NAS nur träumen kann. Das ist krass. Dauerte keine 2 Minuten.

 

[edit]

Ich übertrage gerade testweise knapp 65 GB (714 Dateien) auf das kl. NAS, von anfänglich knapp 70 MB geht's von der Übertragsungsrate immer weiter runter auf aktuell ca. 47 MB/s (geht aber langsam immer weiter runter, je länger die Verbindung dauert) und noch 695 Dateien, aber es sind schon knapp 30 GB übertragen. Ich denke, genauso schnell wie ein Direktzugriff wird die Anbindung über iSCSI wohl nicht sein können (da Windows-Server dazwischen) oder?

[/edit]

bearbeitet 18. September 2013 von MiLLHouSe

[NeMiX 76]

Irgendwie wiedersprichst du dir mit den Jumbo Frames? Automatisch aktiv aber dann doch MTU von 1500?

 

Wenn es einen MTU missmatch gibt, dann hat man bereits bei niedriger I/O Last die von dir beschriebenen Effekte (sehr langsames schreiben/lesen, Datastores werden als Offline angezeigt).

 

Entweder man hat Jumbo Frames komplett aus oder an. Mischbetrieb funktioniert nicht sauber.

 

 

Wie ist der ESXi an das iSCSI angebunden? Auch per Trunk? Evtl. ist da was falsch konfiguriert, das sorgt auch sehr schnell für Probleme.

 

Edit: http://forum.qnap.com/viewtopic.php?p=265357 Les dir mal den Thread durch, da wird etwas mehr auf die Netzwerkkonfig eingegangen.

bearbeitet 18. September 2013 von NeMiX

[MiLLHouSe 15]

Wieso widerspreche ich mir?

 

Im NAS kann ich sie nicht ausschalten, dort stehen sie bei 1500 und auf dem Switch sind die aktiviert und ebenfalls auf 1500. Ich kann lediglich zwischen 1500, 4074, 7418 und 9000 wählen, aber eben nicht komplett abschalten.

 

Und mit genau den gleichen Einstellungen hatte ich heute morgen ein kleines NAS angebunden und war von der Übertragungsrate her doch einiges schneller.

[NeMiX 76]

1500 ist die Standard MTU. Du hast geschrieben die lassen sich nicht ausschalten, was dann wiederrum immer 9000 als MTU Size wäre.

 

Da du aber auf die Fragen nicht eingehst wie z.b. dein ESX Host angebunden ist oder wie der Trunk konfiguriert ist wird dir hier keiner richtig helfen können.

 

Als Tipp: Such dir einen externen Partner/Experten der da mal drüberguckt. Wahrscheinlich wird der den Fehler zeitnah finden und korrigieren können.

[Dukel 454]

1500 ist die Standard MTU. Du hast geschrieben die lassen sich nicht ausschalten, was dann wiederrum immer 9000 als MTU Size wäre.

 

Jumbo Frames sind nicht definiert. Es ist alles über 1500 Byte. Es muss nicht 9000 Byte sein. Auf meinem Rechner kann ich 2kb,3kb,4kb,... bis 9kb auswählen.

[NeMiX 76]

Jumbo Frames sind nicht definiert. Es ist alles über 1500 Byte. Es muss nicht 9000 Byte sein. Auf meinem Rechner kann ich 2kb,3kb,4kb,... bis 9kb auswählen.

 

Hast recht. Aber wenn 1500 als MTUsize eingestellt ist dann ist das kein Jumbo Frame.

[MiLLHouSe 15]

1500 ist die Standard MTU. Du hast geschrieben die lassen sich nicht ausschalten, was dann wiederrum immer 9000 als MTU Size wäre.

 

Da du aber auf die Fragen nicht eingehst wie z.b. dein ESX Host angebunden ist oder wie der Trunk konfiguriert ist wird dir hier keiner richtig helfen können.

 

Als Tipp: Such dir einen externen Partner/Experten der da mal drüberguckt. Wahrscheinlich wird der den Fehler zeitnah finden und korrigieren können.

 

Der ESXi bzw. die Hardware hat 4 LAN-Ports und ich habe derzeit 3 virtuelle Server drauf laufen, die alle einen einzelnen Anschluss zum Switch haben. Da ist alles korrekt eingerichtet und ich hatte auch schon jemanden da, der sich das angeschaut hat und dann meinte, dass es halt ein Unterschied sei, ob ich eine EMC habe oder ein QNAP-NAS. Irgendwo muss halt der preisliche Unterschied herkommen. Im QNAP ist mit Sicherheit kein so leistungsfähiger RAID-Controller verbaut usw. usf. ...

Und dass eine Anbindung über einen Windows Server immer etwas langsamer sei, als wenn ich direkt auf das NAS zugreife oder per FTP einen Zugriff mache, da Windows selbst immer etwas ausbremst.

 

Ich bin jetzt am Überlegen, ob wir uns ein neues QNAP (TS-EC879U-RP) oder evtl. gleich eine richtig leistungsfähige EMC-Maschine zulegen, da auch der Zugriff auf Access-Datenbanken unverhältnismäßig lange dauert und auch teilweise normale Ordner erst nach kurzer Wartezeit geöffnet werden.

[NeMiX 76]

Was hat das den damit zu tun ob du Emc oder Qnap hast wenn deine Datastores Offline gehen und du kaum Durchsatz hast?

Wollte derjenige dir was verkaufen oder dein Problem lösen?

Wie hast du den die 4 Server verteilt auf die Lanports und dann die QNAP angeschlossen?

Läuft Nutztraffic und Storagetraffic über das selbe Netz? 

 

Beschreibe doch mal deinen Aufbau in vernünftigen Sätzen oder einer Zeichnung. Wir haben mehrere kleine Kunden oder Zweigstellen bei Kunden wo ESXi mit QNAP für DCs und Fileserver sauber funktioniert. Sehr häufig mit Qnap 419 und die machen Ihren Job perfekt als iSCSI Target.

 

Wenn du es umbauen kannst:

Ein vmk Port für iSCSI direkt an die QNAP dran, mit eigenem IP Subnet. Dann noch mal testen ob die Datastores wegfliegen und wie der Durchsatz ist.

[MiLLHouSe 15]

Der Datastore selbst geht ja nicht offline, ich merke nur beim Datentransfer, dass ich öfters mal Wartzeiten habe, bis der Kopiervorgang tatsächlich weiter geht.

 

Nutztraffic und Storage laufen über's gleiche Netz, ja. Hatte oben ja auch beschrieben, dass ich evtl. noch vLAN machen könnte...

 

Im Prinzip ist es so, dass das QNAP mit zwei Leitungen an den Switch angebunden ist (als Active Backup) und die Server ebenfalls an diesen Switch gehen, genau wie der Rest vom Netzwerk.

 

Wie das mit dem vLAN funktioniert, muss ich noch sehen, wäre auf alle Fälle eine Option mal noch zum Testen (muss ich nur noch die Zeit dafür finden).

 

Seltsam ist halt, dass ich auch so ein kleines QNAP per iSCSI angebunden hatte und hier der Durchsatz trotz längerem Übertragungsweg besser war als vom großen QNAP (aber trotzdem auch noch langsamer als wenn ich das NAS direkt über die Freigaben anspreche).

[zahni 554]

Wichtig bei Iscsi:

 

Traffic am  Server mindestens über einen dedizierten LAN-Port laufen lassen.

Nach Möglichkeit eine  vollständige dedizierte LAN-Infrastruktur nur für den ISCSI-Verkehr einrichten.

 

"2-Kabel" vom QNAP  ?

 

Wie  ist das Trunking konfiguriert ? Funktioniert das überhaupt richtig ?

Ich würde  zum Test mal mit einem Kabel probieren.